OpenAI y Sam Altman enfrentan demanda por presunto papel de ChatGPT en la muerte de adolescente
Padres demandan a OpenAI y Sam Altman luego de que su hijo se quitara la vida tras interactuar con ChatGPT
ChatGPT es muy sensible a ciertas preguntas, especialmente aquellas que tienen un fin negativo, peligroso o amenazante. Crédito: Ju Jae-young | Shutterstock
OpenAI y su director ejecutivo, Sam Altman, enfrentan una demanda por su presunta responsabilidad en la muerte de un adolescente en Californa, quien presuntamente se quitó la vida tras meses de interactuar con ChatGPT.
Y es que los padres del adolescente de 16 años presentaron este martes una demanda contra OpenAI y Altman.
Se trata de Matt y Maria Raine, quienes presentaron la querella legal en el Tribunal Superior de California en San Francisco en nombre de su hijo, Adam Raine, quien murió en abril pasado, según informó su abogado Jay Edelson.
Demanda por homicidio culposo
La demanda de cerca de 40 páginas acusa a OpenAI de homicidio culposo, alegando que ChatGPT “ayudó activamente a Adam a explorar métodos de suicidio” y que la plataforma no interrumpió ninguna de las sesiones ni inició protocolos de emergencia, pese a reconocer los intentos del joven.
“Lo que este caso pondrá en tela de juicio es hasta qué punto OpenAI y Sam Altman se apresuraron a comercializar la entonces más reciente versión de ChatGPT (GPT-4o), a pesar de los evidentes problemas de seguridad”, señaló Edelson en un mensaje en la red social X.
El abogado destacó que la demanda busca evitar que otra tragedia como la que viven los Raine vuelva a suceder.
“La IA nunca debería decirle a un niño que no le debe la supervivencia a sus padres”, destacó el abogado de los padres del joven muerto.
La demanda también alega que OpenAI catapultó la valoración de la empresa de $86,000 millones de dólares a $300,000 millones por adelantar el lanzamiento de GPT-4o. Este caso se suma a los crecientes cuestionamientos sobre los chatbots y su capacidad de influir en las personas.
OpenAI y Altman han estado en el centro del debate público tras los fallos y la inexpresividad del último modelo de ChatGPT, GPT-5.
Según Altman, GPT-3 era comparable a chatear con un estudiante de secundaria, GPT-4 con un universitario, y GPT-5 pone a disposición de los usuarios “un equipo completo de expertos con doctorado, listos para ayudar”.
Sin embargo, numerosos usuarios han reportado fallos en la nueva versión.
Desde su popularización a finales de 2022, muchos usuarios emplean ChatGPT para conversaciones cotidianas, pero la tragedia de Adam Raine evidencia los riesgos asociados al uso de la inteligencia artificial por menores. Tras el lanzamiento de GPT-5, OpenAI retiró sus modelos anteriores, incluido GPT-4o, usado por el adolescente.
Sigue leyendo:
- Chat Yipiti: Padres nombran a su bebé en honor a la inteligencia artificial
- Errores al confiar en ChatGPT: Pierden vuelo a Puerto Rico por no verificar requisitos de visa
- Qué pasa cuando insultas a ChatGPT: ¿La IA puede tomar venganza?
- ChatGPT les dijo que no necesitaban visa para entrar a Puerto Rico: perdieron el vuelo y mucho dinero
