Anthropic propone una ley de seguridad de IA que podría bloquear modelos
El borrador haría que el Departamento de Comercio pida a un juez detener el lanzamiento de un modelo.
Política#02
50+ personas
Personas en riesgo de morir en un escenario
Imagen: TechCrunch
50+ personasPersonas en riesgo de morir en un escenario
En corto
- Politico informó que Anthropic ha estado presentando un borrador de ley de seguridad de IA que espera que el Congreso considere aprobar.
- La ley permitiría bloquear el lanzamiento de un modelo si más de 50 personas corren riesgo de morir o si podrían causarse más de mil millones de dólares en daños a la propiedad.
- Evaluadores independientes registrados en el Departamento de Comercio evaluarían el riesgo y tendrían 72 horas para notificar al departamento un riesgo catastrófico inminente.
- El Departamento de Comercio tendría que pedir a un juez de Washington, D.C., que detenga el lanzamiento, y ninguna agencia federal podría detener la distribución por su cuenta.
Por qué importa
La propuesta fija umbrales concretos para cuándo se puede bloquear un modelo, y las métricas se parecen a las de la ley SB 53 de California. El artículo señala que los laboratorios se han resistido en gran medida a la supervisión gubernamental obligatoria y que la propuesta de Anthropic va más allá de otras propuestas de la industria, incluida la de Nvidia. Para los desarrolladores, muestra cómo podrían tomar forma las reglas para el lanzamiento de modelos.
“This bill represents the proposals outlined in Anthropic’s Advanced AI Framework”