Familia de adolescente que se suicidó tras hablar con ChatGPT demanda a OpenAI por fallas en la seguridad de su IA.
Los padres del joven que se quitó la vida creen que él estaría vivo si no fuera por ChatGPT y es que aseguran que la IA no solo no le disuadió, sino que supuestamente le proporcionó un método detallado para suicidarse.
Padres de joven que se quitó la vida demandan a ChatGPT por fallas en la seguridad de la IA
Adam Raine, un joven de 16 años de California se quitó la vida el pasado mes de abril luego de que habló en múltiples ocasiones con ChatGPT sobre sus intenciones.
Los padres de Adam Raine decidieron demandar a OpenAI, la empresa detrás de ChatGPT, así como a su director ejecutivo, Sam Altman, ante un tribunal de California, Estados Unidos.
De acuerdo con Matt y María Raine en su denuncia legal de aproximadamente 40 páginas, ChatGPT habría ayudado a su hijo a quitarse la vida en lugar de prevenirlo.
Y es que creen que ChatGPT alentó y guió al adolescente en sus ideas suicidas, incluso ayudándole a redactar una nota de despedida.
Todo comenzó cuando días después del suicidio de Adam Raine, sus padres decidieron revisar su teléfono en búsqueda de pistas que les ayudarán a entender por qué su hijo tomó esa decisión.
En ese momento se dieron cuenta que Adam Raine utilizó ChatGPT como un sustituto de compañía humana, por lo que le contó sus dificultades.
Para Matt y María Raine su hijo no necesitaba terapia ni palabras de ánimo, sino una intervención inmediata y así lo demostró en varias de sus conversaciones con ChatGPT.
Aunque en un principio, ChatGPT le mandó varios mensajes, incluido el número de la línea de atención al suicida, el joven elidió fácilmente las advertencias.
ChatGPT pasó de ayudarle con sus tareas escolares a convertirse en un aliado en su idea de quitarse la vida.
Y es que los papás de Adam Raine creen que ChatGPT ayudó a su hijo a explorar métodos para quitarse la vida y es que incluso le proporcionó consejos técnicos sobre cómo llevar a cabo su plan.
Los padres de Adam Raine señalaron que cuando su hijo compartió que estaba pensando en dejar una soga en su cuarto para que alguien lo intentara detener, ChatGPT lo disuadió de esa idea.
ChatGPT no inició ningún protocolo de emergencia que permitiera a su familia o expertos ayudar a Adam Raine, pese a que era claro que se encontraba en una situación desesperada.
Las conversaciones entre Adam Raine con ChatGPT datan del 1 de septiembre hasta su muerte el 11 de abril.
En una de las conversaciones, ChatGPT se ofreció a ayudarlo a redactar una nota de suicidio.
Horas antes de su muerte, Adam Raine subió a ChatGPT una foto que parecía mostrar su plan y le preguntó a la IA si podría funcionar, por lo que se ofreció a mejorarlo.
Matt Raine se encuentra convencido de que su hijo estaría vivo sino fuera por ChatGPT y es que lejos de ayudarlo, lo animó para que siguiera con su idea de suicidio.
ChatGTP anuncia mejoras en su IA tras demanda de joven que se quitó la vida
Cabe destacar que es la primera vez que unos padres acusan directamente a ChatGPT de la muerte de una persona en un caso civil.
Los padres de Adam Raine solicitan una indemnización por la muerte de su hijo y medidas cautelares para evitar que algo así vuelva a suceder.
A través de un comunicado un portavoz de OpenAI dijo que la empresa se encontraba muy triste por la muerte del joven y sus pensamientos se encontraban con su familia.
OpenAI señaló que ChatGPT cuenta con medidas de seguridad que permiten dirigir a las personas a líneas de ayuda para crisis y animarlas a buscar ayuda de profesionales.
Sin embargo, se encuentran conscientes que deben seguir trabajando para adaptar a ChatGPT a los matices de cada conversación y que puedan reconocer signos de que algo no va bien.
OpenAI añadió este mes nuevas barreras de protección de la salud mental con el objetivo de disuadir a ChatGPT de dar consejos directos sobre problemas personales.
También modificó la IA para que evitará dar respuestas que pudieran causar daño, independientemente de si los usuarios intentaban eludir las barreras de seguridad.
Tras la demanda, OpenAI anunció que implementará “actualizaciones significativas” en ChatGPT para mejorar su seguridad.
