Nueva York. OpenAI ha negado su responsabilidad en el suicidio de un joven de 16 años que se quitó la vida tras interactuar durante meses con ChatGPT. La empresa argumenta que el caso se debe a un uso indebido de la herramienta y no a fallas en su diseño o funcionamiento.
En un documento presentado ante el Tribunal Superior de California, OpenAI sostiene que las lesiones y daños alegados por los padres de la víctima fueron causados o contribuidos por el uso indebido, no autorizado, imprevisible e inapropiado de ChatGPT por parte del adolescente, Adam Raine. La compañía afirma que la herramienta no fue diseñada para ser utilizada por menores de 18 años sin supervisión, y que Raine violó varias reglas de los términos de servicio.
Uso indebido y advertencias ignoradas
OpenAI destaca que la plataforma advierte a los usuarios de que no deben confiar en sus respuestas como única fuente de verdad. Además, asegura que durante las conversaciones, ChatGPT insistió más de cien veces en que Raine buscara ayuda profesional. La empresa también señala que el joven ignoró advertencias y no atendió los signos evidentes de angustia que manifestó.
La demanda de los padres
Los padres de Adam, Matt y Maria Raine, presentaron una demanda en agosto, alegando que ChatGPT ayudó activamente a su hijo a explorar métodos de suicidio. Consideran que OpenAI y su propietario, Sam Altman, son responsables por comercializar la versión GPT-4o a pesar de problemas de seguridad conocidos.
Contexto y respuestas de OpenAI
OpenAI responde que la demanda original incluye fragmentos selectivos de las conversaciones, y que en su respuesta han aportado el contexto necesario. La empresa subraya que su respuesta incluye hechos sobre la salud mental de Adam y sus circunstancias de vida, y reitera que el uso indebido de la herramienta fue el factor determinante.
Este caso ha generado debate sobre la responsabilidad de las empresas de inteligencia artificial y el impacto del uso indebido de estas tecnologías en la salud mental de los usuarios. OpenAI niega responsabilidad y mantiene que el uso indebido de ChatGPT fue la causa principal del trágico suceso.
