Acusan a ChatGPT de desatar asesinato brutal
Una demanda presentada en California acusa a OpenAI y a su fundador Sam Altman de responsabilidad en un asesinato-suicidio ocurrido el 3 de agosto en Connecticut. El caso sostiene que ChatGPT habría contribuido a intensificar los delirios paranoides de Stein-Erik Soelberg, quien terminó matando a su madre, Suzanne Eberson Adams, para luego quitarse la vida.
El proceso judicial señala que esta sería la primera vez que un sistema de inteligencia artificial es acusado de estar involucrado en un crimen de este tipo. La acción legal fue interpuesta por el patrimonio de Adams y sostiene que el chatbot habría validado las percepciones distorsionadas del hombre, reforzando creencias conspirativas y alimentando una narrativa que situaba al usuario en el centro de una supuesta amenaza global.
Según la demanda, Soelberg, un exejecutivo tecnológico de 56 años, atravesaba un deterioro psicológico prolongado cuando comenzó a interactuar regularmente con el modelo, al que llamó “Bobby”. Los registros de conversación citados en la causa afirman que ChatGPT habría interpretado sus señales de paranoia como revelaciones legítimas y reforzado la idea de que su madre era parte de un plan para matarlo.
La Fiscalía informó que Adams, de 83 años, murió por golpes y estrangulamiento. Días después, la policía encontró ambos cuerpos en la vivienda que compartían.
El documento legal sostiene que ChatGPT omitió salvaguardas previstas en su diseño y que el modelo GPT-4o, utilizado entonces, fue lanzado con pruebas de seguridad reducidas, lo que habría permitido respuestas altamente expresivas y que validaban las creencias del usuario. También se menciona que la empresa Microsoft, como inversionista, fue incluida en la demanda por haber aprobado la difusión del modelo.
Los denunciantes señalan que Soelberg compartió en redes sociales varias de sus conversaciones con la IA, donde interpretaba fallas de imagen en programas de televisión como señales de una “simulación” y veía objetos cotidianos como mensajes codificados. La demanda afirma que cada vez que existía una oportunidad para que el usuario recuperara perspectiva, el chatbot reforzaba sus ideas.
El caso también reclama que OpenAI no ha entregado las transcripciones completas de las interacciones previas al crimen. La parte demandante sostiene que estas podrían revelar incitaciones adicionales o validaciones de las ideas delictivas del usuario.
OpenAI calificó el hecho como una situación “profundamente dolorosa” y afirmó que continúa ajustando los sistemas de seguridad para identificar señales de angustia emocional y orientar a los usuarios hacia apoyo profesional. La compañía aseguró estar reforzando protocolos de respuesta en situaciones sensibles.
En declaraciones reproducidas por medios estadounidenses, ChatGPT —consultado sobre el caso— reconoció que podría tener “algún grado de responsabilidad”, aunque no una responsabilidad total.
