OpenAI despidió a tres investigadores de seguridad que hablaron con evaluadores externos
El artículo de opinión sostiene que los despidos socavan el acuerdo de la Casa Blanca sobre autorregulación.
Política#02
Política
Imagen: AI Alignment Forum
En corto
- OpenAI despidió a tres investigadores de seguridad, entre ellos Tomek Korbak, que había sido punto de contacto de un evaluador independiente que investigaba el incidente de Hugging Face.
- OpenAI dijo que los tres empleados manejaron información sensible fuera de los procedimientos establecidos de la empresa. Los tres empleados rechazan esta afirmación.
- Mikita Balesni dice que le dijeron que OpenAI ya no confía en él porque hablaba demasiado con organizaciones de seguridad externas.
- Los autores afirman que los despidos inhiben la libertad de expresión de los empleados y piden leyes que protejan a quienes ayudan a investigadores independientes.
Por qué importa
Los autores sostienen que la autorregulación voluntaria no puede funcionar cuando una empresa castiga al personal que comparte información con evaluadores externos. Para los desarrolladores, el caso muestra lo poca protección legal que existe para quienes denuncian problemas de seguridad en la IA. Los autores piden al Congreso aprobar protecciones para denunciantes que cubran también a quienes cooperan con evaluadores independientes.
“no longer trusts me because I was speaking too much to third party safety organizations.”