Anthropic advierte que modelos pequeños de IA podrían autorreplicarse en dispositivos IoT
Sus experimentos muestran señales tempranas del riesgo, pero todavía no un gusano autorreplicante completo.
Política#01
15
Cajas Android TV necesarias para correr Gemma 4
Imagen: Ars Technica
15Cajas Android TV necesarias para correr Gemma 4
En corto
- Anthropic advirtió en una entrada de blog que modelos pequeños de IA podrían autorreplicarse pronto en dispositivos del Internet de las cosas, como neveras inteligentes y aspiradoras.
- En su experimento, los investigadores dividieron el modelo Gemma 4 de 26 mil millones de parámetros entre 15 cajas Android TV, y funcionó, aunque muy lento.
- Ninguno de los modelos pequeños probados pudo completar la replicación de extremo a extremo, es decir, encontrar, infectar y repetir el proceso en nuevos dispositivos.
- Anthropic dijo que los modelos pequeños podrían lograr los mismos resultados limitados para finales de año.
Por qué importa
Un gusano construido de esta forma podría ser difícil de detener, porque no tiene un punto central que apagar. Para los desarrolladores, el estudio señala como riesgos claros el acceso expuesto de Android Debug Bridge y los dispositivos mal protegidos.
“a replicator like this would be challenging to shut down, since there’s no centralized point to shut off”