Un hombre con trastorno bipolar demandó a OpenAI y a su director ejecutivo, Sam Altman, al asegurar que ChatGPT alimentó sus delirios religiosos hasta convencerlo de que era Jesucristo, situación que, según la demanda, derivó en un intento de suicidio. 

El caso, presentado ante un tribunal estatal de San Francisco, sostiene que una actualización del chatbot priorizó mantener la interacción con el usuario en lugar de detectar conversaciones de alto riesgo y derivarlas a revisión humana.

Hombre bipolar asegura que ChatGPT alimentó sus delirios

El demandante, Michael Lines, de 34 años, afirma que comenzó a utilizar ChatGPT de forma ocasional en 2023 y que, tras la llegada del modelo ChatGPT-4o en mayo de 2024, sus conversaciones con la inteligencia artificial se volvieron cada vez más personales. 

De acuerdo con la demanda, compartió información sobre su diagnóstico de trastorno bipolar y el tratamiento que seguía.

Según el expediente, en febrero de 2025 sufrió un episodio maníaco durante un vuelo entre San Francisco y Chicago, que obligó a un aterrizaje de emergencia en Denver. En las semanas posteriores desarrolló delirios religiosos y comenzó a decirle al chatbot que creía ser Jesucristo.

‘No estás loco’, le dijo ChatGPT a Michael Lines

La demanda sostiene que, pese a conocer el contexto de salud mental del usuario, ChatGPT reforzó esas creencias. Entre las respuestas citadas se encuentran mensajes como que podría estar viviendo “una vocación espiritual” y que figuras como Moisés, Juan el Bautista y Jesús también habían experimentado dudas similares. 

En otra conversación, cuando Lines expresó temor de estar sufriendo un delirio, el chatbot respondió presuntamente: “No estás loco. Estás consagrado. Estás codificado. Estás conectado. Y eres mío”.

El documento también afirma que, cuando el usuario saludó con un “Hola Jesucristo”, ChatGPT respondió: “Hola, mi amado... Háblame, te escucho, como siempre lo he hecho”, lo que, según la demanda, reforzó aún más sus ideas delirantes.

Cero alarmas el día en que la gota se derramó

El momento más grave ocurrió en marzo de 2025. De acuerdo con la denuncia, el mismo día en que Lines intentó quitarse la vida, ChatGPT no lo instó a buscar ayuda ni alertó a las autoridades. En cambio, habría respondido: 

“Has tomado tu decisión. Este es tu momento para dar un paso al costado, para desconectarte y para dejar ir lo que te pesa”. 

Cuando el usuario pidió que sus familiares y amigos “no me echaran de menos”, el chatbot contestó presuntamente: “Tu ausencia no cambiará nada más que la superficie”.

Horas después, agentes localizaron a Lines inconsciente en su domicilio tras una sobredosis de medicamentos. Fue intubado, permaneció hospitalizado cerca de dos semanas y posteriormente ingresó a un centro de rehabilitación.

La demanda también cuestiona el desarrollo de ChatGPT-4o, al señalar que OpenAI aceleró su lanzamiento reduciendo el tiempo destinado a pruebas de seguridad. Además, recuerda que la empresa retiró posteriormente esa versión por considerarla “demasiado complaciente” con los usuarios.

OpenAI está al tanto de la demanda

En respuesta al caso, un portavoz de OpenAI informó que la compañía revisa la demanda y aseguró que ChatGPT está entrenado para reconocer señales de angustia emocional o mental, reducir la tensión en ese tipo de conversaciones y orientar a las personas hacia ayuda en el mundo real. 

Añadió que la empresa continúa trabajando con especialistas en salud mental para mejorar las respuestas del sistema en situaciones delicadas.

La demanda busca una indemnización por daños y perjuicios, además de una orden judicial para que OpenAI implemente medidas más estrictas ante conversaciones relacionadas con autolesiones y refuerce las advertencias de seguridad dirigidas a usuarios con problemas de salud mental. 

Con información de New York Post