Víctima de acoso demanda a OpenAI por el rol de ChatGPT en los delirios de su expareja

Una mujer identificada como Jane Doe demandó a OpenAI en la Corte Superior de California del condado de San Francisco, alegando que la tecnología de la empresa facilitó el acoso y hostigamiento de su expareja hacia ella, según supo TechCrunch de forma exclusiva. Según la demanda, el hombre —un empresario de Silicon Valley de 53 años— se convenció, tras meses de conversaciones con ChatGPT, de que había descubierto una cura para la apnea del sueño y de que gente poderosa lo perseguía. Luego presuntamente usó la herramienta para acosar y hostigar a Doe. Ella demanda por daños punitivos y presentó una orden de restricción temporal pidiendo a la corte que obligue a OpenAI a bloquear la cuenta del hombre, impedirle crear cuentas nuevas, notificarle si él intenta acceder a ChatGPT de nuevo, y preservar el historial completo de sus conversaciones para el proceso de descubrimiento de pruebas. OpenAI aceptó suspender la cuenta pero se negó a lo demás, según los abogados de Doe, quienes afirman que la empresa retiene información sobre planes específicos que él podría haber discutido para hacerles daño a Doe y a otras posibles víctimas.

Doe afirma que OpenAI ignoró tres advertencias distintas de que el hombre representaba una amenaza para otras personas, incluida una alerta interna que clasificó la actividad de su cuenta como relacionada con “armas de destrucción masiva”. Según la demanda, el sistema automático de seguridad de OpenAI desactivó su cuenta en agosto de 2025 tras esa alerta, pero un miembro humano del equipo de seguridad la restauró al día siguiente, a pesar de que la cuenta podría haber contenido evidencia de que él estaba acechando y acosando a personas, incluida Doe, en la vida real. Una captura de pantalla que Doe dice haber recibido después mostraba títulos de conversaciones que incluían “expansión de la lista de violencia” y “cálculo de asfixia fetal”. En enero, el hombre fue arrestado y acusado de cuatro cargos de delito grave por comunicar amenazas de bomba y agresión con arma mortal; fue declarado no apto para ser juzgado y recluido en un centro de salud mental, pero los abogados de Doe afirman que una “falla procesal del Estado” hará que sea liberado pronto.

El caso lo lleva Edelson PC, el bufete detrás de las demandas por muerte injusta que involucran al adolescente Adam Raine, quien murió por suicidio tras meses de conversaciones con ChatGPT, y a Jonathan Gavalas, cuya familia alega que Gemini de Google alimentó sus delirios antes de su muerte. GPT-4o, el modelo citado en la demanda, se retiró de ChatGPT en febrero. La demanda llega mientras OpenAI respalda un proyecto de ley en Illinois que blindaría a los laboratorios de IA frente a responsabilidad legal incluso en casos de muertes masivas o daños financieros catastróficos. Edelson acusó a OpenAI de ocultar información crítica de seguridad al público y a las víctimas que su producto pone en peligro, y agregó: “Las vidas humanas deben importar más que la carrera de OpenAI hacia una salida a bolsa”. OpenAI no respondió a una solicitud de comentarios.

Por qué importa

La demanda se suma a un creciente cuerpo de litigios que alegan que los chatbots de IA pueden amplificar crisis psicológicas, y conecta esa presión legal directamente con el propio impulso legislativo de OpenAI para limitar su responsabilidad por este tipo de daño.