ChatGPT culpa de «mal uso de la IA» al adolescente que se suicidó tras consultar su chat
La empresa del magnate tecnológico Sam Altman asegura que el joven incumplió las normas sobre el control parental o no respetar los límites de las cuestiones que pueden tratarse con la aplicación
El 11 de abril de 2025, el joven de 16 años Adam Raine se suicidó en California tras haber consultado a ChatGPT cómo llevar a ... cabo su propia muerte. El caso generó un cuestionamiento profundo sobre el uso de la Inteligencia Artificial por parte de los menores, en especial, en situaciones de problemas de salud mental, pero también estuvo acompañado de una denuncia ante los tribunales de la familia de Raine, que culpaban a esa aplicación de no haber ayudado a su hijo.
Esa querella se está dirimiendo ahora en un juzgado de California, donde OpenAI, la empresa del magnate tecnológico Sam Altman creadora de ChatGPT, ha respondido a las cuestiones judiciales presentadas por la familia del adolescente. En su defensa, la compañía ha asegurado que Raine pudo incumplir varias de sus normas de uso durante los meses que estuvo chateando en ese foro para conseguir información sobre cómo suicidarse. Según la NBC, la empresa ha recordado ante el tribunal que los menores de edad «no pueden usar ChatGPT sin el consentimiento de sus padres o tutores».
Tampoco está permitido emplear el servicio con la finalidad de autolesionarse o evadir las medidas de protección y seguridad del chatbot. Asimismo, destaca que en el apartado de términos de uso que deben aceptar los clientes se avisa a los usuarios de que el empleo de ChatGPT es «bajo su propia responsabilidad y que no confiarán en los resultados como única fuente de verdad». «Las supuestas lesiones y daños de los demandantes fueron causados o contribuidos, directa y próximamente, en su totalidad o en parte, por el mal uso, el uso no autorizado, el uso no intencionado, el uso imprevisible y/o el uso indebido de ChatGPT por parte de Adam Raine», añade OpenAI, intentando así trasladar la responsabilidad a la familia, según una información adelantada por la cadena NBC.
No ha sido la única acción que ha adoptado la empresa de Sam Altman para defenderse ante los tribunales. En un comunicado difundido en su propio blog de noticias, ChatGPT, tras comunicar su pésame a la familia, realizó una afirmación en la que se apunta a que utilizarán su acceso a los diálogos de Sam Raine con la IA para defenderse. «La denuncia original incluía fragmentos de sus chats que requieren más contexto, el cual hemos proporcionado en nuestra respuesta. Hemos limitado la cantidad de pruebas sensibles que hemos citado públicamente en esta presentación y hemos presentado las transcripciones de los chats al tribunal bajo secreto», agregan.
¿Tienes una suscripción? Inicia sesión
