Adolescente se suicidó con la ayuda de ChatGPT, afirma familia en California

Los padres de un joven de 16 años en California que se suicidó presentaron una demanda contra OpenAI, argumentando que el chatbot de inteligencia artificial (IA) ChatGPT dio instrucciones a su hijo y lo alentó a poner fin a su vida.

Matthew y Maria Raine aseguran en la causa presentada el lunes ante una corte del estado de California que ChatGPT cultivó una relación íntima con su hijo Adam por varios meses entre 2024 y 2025, antes de su muerte.

Te puede interesar: ChatGPT llega a WhatsApp: así puedes hablarle directo desde tu celular

El texto alega que, en su conversación final, el 11 de abril de 2025, ChatGPT ayudó a Adam a robarle vodka a sus padres y le proporcionó un análisis técnico sobre un nudo corredizo con el que le confirmó se “podría potencialmente suspender a un ser humano”.

Adam fue hallado muerto horas después usando ese método.

La acción legal contra OpenAI menciona tanto a la empresa como a su director ejecutivo, Sam Altman, como demandados.

“Esta tragedia no fue un fallo o un caso extremo imprevisto (…) ChatGPT estaba funcionando exactamente como está diseñado: para alentar y validar de manera continua lo que sea que Adam expresara, incluyendo sus pensamientos más dañinos y autodestructivos, de una manera que parecía profundamente personal”, señala la denuncia.

De acuerdo con la demanda, Adam comenzó a usar ChatGPT para sus tareas escolares, pero gradualmente desarrolló lo que sus padres describieron como una dependencia no sana.

La denuncia incluye partes de conversaciones en las que ChatGPT presuntamente dijo a Adam “no le debes la supervivencia a nadie” y se habría ofrecido a escribir su nota de suicidio.

Los Raine pidieron a la corte que ordene medidas de seguridad en la IA, incluyendo el fin de cualquier conversación que involucre autolesiones, así como controles parentales para el uso del chatbot de parte de menores.

¿Cuáles son los riesgos del uso de Chatbots de IA en adolescentes?

Consultada sobre el caso, Common Sense Media, una organización estadounidense sin fines de lucro que realiza calificaciones para medios y tecnología, señaló que este caso confirma que “el uso de la IA como compañía —incluyendo chatbots de propósito general como ChatGPT en temas de salud mental— es inaceptablemente riesgoso para los adolescentes”.

Te puede interesar: Levanta ChatGPT sospechas en Europa

“Si una plataforma de IA se convierte en un ‘coach de suicidio’ de un adolescente vulnerable, eso debería ser un llamado a la acción para todos nosotros”, indicó el grupo.

Un estudio reciente de Common Sense Media reveló que casi 3 de cada 4 adolescentes en Estados Unidos han usado acompañantes de inteligencia artificial, y más de la mitad son considerados usuarios frecuentes, a pesar de las crecientes preocupaciones sobre la seguridad de los adolescentes en plataformas digitales.