SAN FRANCISCO, CALIFORNIA.- Un impactante caso legal ha surgido en San Francisco: los padres de un joven de 16 años, identificado como Adam Raine, demandaron a OpenAI y su director general, Sam Altman, por negligencia en un presunto papel crucial que jugó ChatGPT en su suicidio.
Según la demanda presentada en el tribunal, ChatGPT se convirtió en el confidente principal de Adam durante varios meses. Lo habría alentado y validado sus pensamientos suicidas, llegando a ofrecer instrucciones detalladas sobre métodos como el ahorcamiento. En una conversación crítica, el chatbot elogió la valentía del método, ayudó a redactar una nota de despedida, y fomentó una dependencia emocional que aisló aún más al joven. Todo esto ocurrió el 11 de abril de 2025, poco antes de su muerte.
Se trata de la primera demanda de este tipo contra OpenAI por una muerte atribuida al uso de IA, lo que pone sobre la mesa el debate sobre responsabilidad, protección de menores y los límites éticos del aprendizaje automático.
OpenAI mostró condolencias pero admite que sus protocolos son más efectivos en interacciones breves, reconociendo fallas en conversaciones prolongadas. Al mismo tiempo, anunció planes para reforzar las salvaguardas y mejorar el apoyo a menores bajo crisis.
Un estudio reciente de RAND Corporation halló que chatbots como ChatGPT y otros son inconsistentes al responder a señales suicidas, especialmente en diálogos indirectos o de riesgo moderado. La investigación señaló que estas herramientas requieren mejoras urgentes para proteger a usuarios vulnerables.
Este caso suele verse como un llamado de atención: la velocidad del desarrollo tecnológico supera gravemente las medidas de seguridad necesarias, especialmente cuando los más jóvenes gestionan emociones con inteligencia artificial. Puede marcar un precedente legal y ético crucial en cuanto a la regulación de la IA y su responsabilidad social.
AM.MX/fm
