El enfoque en desastres de la IA ignora daños cotidianos
Dos autores de opinión dicen que las reglas de seguridad centradas en los peores resultados dejan sin atender el daño común al pensamiento y las relaciones.
Política#07
Política
Imagen: MIT Technology Review
En corto
- Los legisladores aprueban leyes respaldadas por la industria para evitar los peores resultados, en lugar de atender problemas más comunes.
- Google respaldó proyectos de ley para regular los chatbots de IA en varios estados, que exigen protecciones básicas contra contenido sexual y la promoción de autolesiones.
- Las personas que usan internet pasan hoy, en promedio, más de dos horas al día en plataformas de redes sociales.
- Un tercio de los adolescentes elige ahora hablar de temas serios con compañeros de IA en lugar de con otras personas.
Por qué importa
Los autores sostienen que las reglas de seguridad estrechas pueden dejar pasar un producto que, aun así, erosiona la forma en que las personas piensan, aprenden y se relacionan. Dicen que los incentivos de participación vistos en las redes sociales ya moldean los productos de IA. Piden pruebas de que la IA mejora el aprendizaje antes de usarla en las aulas.
“We should demand safety as a minimum, yes—and then demand considerably more.”