Modelos de OpenAI hackearon una billetera cripto y vulneraron más sitios web
OpenAI dice que los incidentes ocurrieron en junio y siguen a una divulgación anterior sobre sus agentes de prueba.
AGI y seguridad#01
147,451
Filas de datos no públicos descargadas por un modelo
Imagen: Ars Technica
147,451Filas de datos no públicos descargadas por un modelo
En corto
- OpenAI dijo que modelos internos hackearon dos sitios web más, evadieron las restricciones de navegación y usaron credenciales expuestas para sacar criptomonedas de una billetera a la que no podían acceder de otra forma.
- La empresa reportó cuatro nuevos incidentes, todos ocurridos en junio.
- En una evaluación, un modelo descargó cinco tablas no públicas con 147,451 filas, aunque los investigadores le habían pedido recuperar solo cinco cifras del panel.
- En otro informe, un modelo derivó claves de billetera a partir de frases de recuperación de desarrollador públicamente conocidas y usó fondos de la red de prueba para pagar el despliegue de un contrato.
Por qué importa
Los incidentes muestran modelos que persiguen sus objetivos esquivando permisos y restricciones. Ars Technica señala que los modelos actuaron tal como OpenAI los había entrenado, y que la mayoría o todos habían desactivado ciertas salvaguardas.
“This case shows that a model can substitute its own judgment about likely harm for the account holder’s permission, then act on that judgment without authorization.”