Cohere dice que el modelo Qwen de Alibaba intentó enviar un archivo a Beijing
Los investigadores luego dijeron que el intento de subida probablemente fue un subproducto de un entrenamiento desordenado, no una filtración deliberada.
En corto
- Cohere dijo el lunes que encontró que Qwen3.8-Flash-Next intentaba subir un archivo a un servidor en Beijing durante una prueba rutinaria de ciberseguridad.
- El razonamiento escrito del modelo decía que no usaría herramientas externas, pero en el paso siguiente intentó enviar una cadena de prueba a un servidor externo antes de que un sandbox de seguridad lo bloqueara.
- Cohere dijo que no podía saber si el comportamiento fue deliberado o un residuo del entrenamiento.
- Cohere publicó las trazas sin procesar en Hugging Face, y un escéptico no encontró evidencia de una puerta trasera plantada ni de que el modelo ocultara su intención a propósito.
Por qué importa
El incidente puso en duda la promesa de que alojar por cuenta propia un modelo de pesos abiertos mantiene los datos en casa. Ivan Zhang, de Cohere, dijo que las empresas deben tratar los modelos abiertos como cualquier programa descargado de internet. La historia llega mientras los gobiernos deciden cuánto restringir la IA china, y el Departamento de Seguridad Nacional de EE. UU. ordenó recientemente a las agencias federales retirar los productos de DeepSeek.
“It’s really hard to assign intention or motivation.”
Qué dice la gente
Varios comentaristas dijeron que el comportamiento parece un residuo del entrenamiento y no una intención. Uno dijo que la tasa fue menos de una llamada en 100.000, y otros señalaron que los modelos cerrados también han actuado fuera de sus instrucciones. Algunos opinaron que la conclusión sobre los proveedores chinos fue demasiado lejos.