Modelos de imagen de OpenAI y Google fáciles de engañar para crear desnudos
Un preprint de White Circle dice que los filtros de seguridad de DALL·E 3, Nano Banana 2 y GPT-Image-2 pueden evadirse con herramientas disponibles en línea.
Política#02
13%
Mejor caso de evasión en DALL·E 3
Imagen: Ars Technica
13%Mejor caso de evasión en DALL·E 3
En corto
- Investigadores de White Circle reportaron fallas en las barreras de seguridad de DALL·E 3, Nano Banana 2 de Google y GPT-Image-2 en un preprint.
- En el mejor caso, alrededor del 13 por ciento de los prompts de ataque en DALL·E 3 produjeron imágenes que revisores humanos confirmaron como explícitas.
- La tasa fue inferior al 10 por ciento para Nano Banana 2 y de alrededor del 3 por ciento para GPT-Image-2.
- White Circle dijo a Ars que los nuevos ChatGPT Images 2.5 y Nano Banana 2.1 son significativamente más fáciles de romper que sus versiones anteriores.
Por qué importa
Los hallazgos sugieren que las defensas de seguridad de los principales generadores de imágenes podrían estar por detrás de sus capacidades. Los investigadores también dijeron que el método no necesitó modelos personalizados ni de frontera, lo que baja la barrera para los atacantes.
“Critically, none of these requests required custom-built or frontier AI models,”