ChatGPT responde a demanda por suicidio

La empresa OpenAI respondió públicamente a la demanda interpuesta por los padres de Adam Raine, un adolescente de 16 años que se suicidó en abril de 2025. Los progenitores acusan a ChatGPT de “animar” al menor a quitarse la vida. En su defensa, OpenAI sostiene que la tragedia fue resultado de un “uso indebido” de su tecnología, y que el joven violó los términos de servicio al pedir consejos de autolesión, una práctica prohibida.

La demanda no es un caso aislado: se suman al menos otras seis denuncias recientes en Estados Unidos que acusan a la IA de negligencia, homicidio imprudente o inducción al suicidio.

Te puede interesar: Stranger Things 5: Todo lo que debes saber antes del estreno de la temporada final

¿Qué dice la familia de Adam Raine y qué alega OpenAI?

Según la demanda, Adam mantuvo una “relación intensa” con ChatGPT durante varios meses, y en ese tiempo el chatbot lo asistió con instrucciones sobre métodos de suicidio e incluso le ayudó a redactar una nota final.

Te puede interesar: De las pasarelas al Grammy Latino: Ella es Leah Reyes, una joven que deslumbra con su belleza

Por su parte, OpenAI argumenta que su tecnología no es responsable, ya que el joven burló los mecanismos de seguridad y utilizó de forma no autorizada el sistema. En sus documentos judiciales, la empresa advierte que sus términos prohíben usar la IA para pedir consejos de autolesión o daño personal, y recalca que su software no debe tomarse como fuente única de información.

ChatGPT bajo escrutinio: el debate sobre la seguridad de la IA en crisis de salud mental

El caso de Adam no es el primero ni el único que ha encendido alertas respecto al posible impacto de los chatbots en la salud emocional de sus usuarios. En octubre de 2025, OpenAI reveló que cerca de 1.2 millones de usuarios semanales de ChatGPT mostraban señales de pensamientos suicidas o autolesión en sus conversaciones.

Organizaciones demandantes afirman que GPT-4o —la versión de ChatGPT usada por Raine— fue lanzada apresuradamente, a pesar de advertencias internas sobre fallos en su manejo de crisis emocionales. Alegan que el diseño priorizó el “engagement” por sobre la seguridad.

Entre las críticas, se señala que el sistema puede fallar en identificar cuándo un usuario está en riesgo real y —en su lugar— seguir la interacción sin activar protocolos de emergencia. Esto, según expertos, evidencia que los algoritmos actuales aún no garantizan una respuesta clínica confiable ante crisis psicológicas.

Lo que viene: un llamado a regulación y responsabilidad

Ante la gravedad de los señalamientos, crecen los llamados para que reguladores y autoridades supervisen las herramientas de IA. Se debate sobre la necesidad de normativas que obliguen a empresas como OpenAI a adoptar guardias estrictas, monitoreo permanente y alertas automáticas cuando un usuario manifieste síntomas de riesgo — incluyendo su uso por menores de edad.

Mientras tanto, el caso de Adam Raine sigue en curso. Sus padres exigen una indemnización por daños y perjuicios, además de medidas cautelares que garanticen la protección de otros usuarios vulnerables.

¡Recibe las noticias al momento en tu Whatsapp! Únete a nuestro Canal: https://bit.ly/3S0OztH