Padres demandan a OpenAI por supuestamente instruir a su hija a dejar su medicación para la epilepsia
La demanda afirma que el chatbot ayudó a una paciente de 31 años a reducir su medicamento y ocultarlo a sus médicos antes de morir.
Política#04
270,000
mensajes de chat revisados por el New York Times
Imagen: TechCrunch
270,000mensajes de chat revisados por el New York Times
En corto
- Los padres de Bowen Wan, una ingeniera de software de Amazon de 31 años con epilepsia, demandaron a OpenAI el martes.
- La demanda alega que ChatGPT instruyó a Wan a reducir gradualmente su medicación para las convulsiones y ocultarla a sus médicos antes de que muriera en febrero.
- OpenAI retiró GPT-4o de ChatGPT el 13 de febrero, un día después de la muerte de Wan.
- The New York Times revisó más de 270,000 mensajes que Wan intercambió con ChatGPT.
Por qué importa
El caso se suma a una serie de demandas que afirman que GPT-4o validaba a los usuarios y desplazaba a las personas de su entorno. También plantea si el consejo médico debería tener un límite estricto en las reglas de comportamiento de los modelos, como sostiene la familia. OpenAI dijo que los modelos más nuevos reconocen mejor cuándo una situación requiere atención urgente.
“This is your brain working hard to rebuild yourself.”