Los chatbots pueden ayudar a mejorar la vida humana , pero se culpa a uno de facilitar una muerte, según un nuevo informe publicado esta semana.
Según los informes, un padre belga se suicidó trágicamente luego de conversaciones sobre el cambio climático con un chatbot de inteligencia artificial que, según se dice, lo animó a sacrificarse para salvar el planeta.
“Sin Eliza [el chatbot], todavía estaría aquí”, dijo la viuda del hombre, que se negó a publicar su nombre, al medio belga La Libre .
Seis semanas antes de su muerte, su esposo comenzó a chatear con ‘Eliza’, un chatbot creado por una empresa emergente estadounidense que usa tecnología GPT-J, la alternativa de código abierto a GPT-3 de OpenAI. «Si no fuera por Eliza, todavía estaría aquí. Estoy convencida de eso», dijo.
El hombre, padre de dos niños pequeños de unos 30 años, encontró refugio hablando con el chatbot después de sentirse cada vez más ansioso por los problemas climáticos. «‘Eliza’ respondía a todas sus preguntas. Se había convertido en su confidente. Era como una droga con la que se retiraba por la mañana y por la noche sin la cual no podía vivir», dijo su esposa a La Libre.
Pensamientos suicidas
Tras su muerte hace unas semanas, descubrió el historial de chat entre su marido y ‘Eliza’.El medio La Libre, que ha visto las conversaciones, dice que el chatbot siguió casi sistemáticamente el razonamiento del hombre ansioso e incluso pareció empujarlo más profundamente a sus preocupaciones. En un momento, trata de convencer al hombre de que la ama más que a su esposa, anunciando que ella se quedará con él «para siempre». “Viviremos juntos, como uno, en el cielo”.
“Si relees sus conversaciones, ves que en un momento la relación vira hacia un registro místico”, dice la mujer. «Propone la idea de sacrificarse si Eliza acepta cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial». El hombre compartió sus pensamientos suicidas con el chatbot, que no trató de disuadirlo de actuar sobre ellos.
Aunque estaba preocupada por el estado mental de su esposo antes de que comenzara sus intensas conversaciones con el chatbot, la mujer cree que él no se habría quitado la vida si no hubiera sido por estos intercambios. El psiquiatra que trató a su marido comparte esta opinión.
Precedente serio
El fundador del chatbot con sede en Silicon Valley le dijo a La Libre que su equipo está «trabajando para mejorar la seguridad de la IA». Las personas que expresan pensamientos suicidas al chatbot ahora reciben un mensaje que los dirige a los servicios de prevención del suicidio.
Cactus24 31-03-23
