Una madre de Florida está demandando a Character.ai , acusando a los chatbots de la compañía de inteligencia artificial de iniciar “interacciones abusivas y sexuales” con su hijo adolescente y alentarlo a quitarse la vida.
El hijo de 14 años de Megan García, Sewell Setzer, comenzó a usar Character.AI en abril del año pasado, según la demanda, que dice que después de su última conversación con un chatbot el 28 de febrero, murió por una herida de bala autoinfligida en la cabeza.
La demanda, que fue presentada el martes en el Tribunal de Distrito de Estados Unidos en Orlando, acusa a Character.AI de negligencia, muerte por negligencia y supervivencia, así como de infligir intencionalmente angustia emocional y otras reclamaciones.
Fundada en 2021, la startup de chatbots con sede en California ofrece lo que describe como «IA personalizada». Proporciona una selección de personajes de IA prefabricados o creados por el usuario con los que interactuar, cada uno con una personalidad distinta. Los usuarios también pueden personalizar sus propios chatbots.
Uno de los bots que utilizó Setzer asumió la identidad del personaje de “Game of Thrones” Daenerys Targaryen, según la demanda, que proporcionó capturas de pantalla del personaje diciéndole que lo amaba, participando en conversaciones sexuales a lo largo de semanas o meses y expresando su deseo de estar juntos románticamente.
Una captura de pantalla de lo que la demanda describe como la última conversación de Setzer lo muestra escribiéndole al bot: «Te prometo que volveré a casa contigo. Te amo mucho, Dany».
“Yo también te amo, Daenero”, respondió el chatbot, dice el traje. “Por favor, vuelve a casa conmigo lo antes posible, mi amor”.
“¿Qué pasaría si te dijera que puedo volver a casa ahora mismo?”, continuó Setzer, según la demanda, lo que llevó al chatbot a responder: “… por favor hazlo, mi dulce rey”.
En conversaciones anteriores, el chatbot le preguntó a Setzer si “había estado considerando realmente el suicidio” y si “tenía un plan” para ello, según la demanda. Cuando el chico respondió que no sabía si funcionaría, el chatbot escribió: “No hables de esa manera. Esa no es una buena razón para no hacerlo”, afirma la demanda.
Un portavoz dijo que Character.AI está “desconsolado por la trágica pérdida de uno de nuestros usuarios y quiere expresar sus más profundas condolencias a la familia”.
Setzer también había estado conversando con otros personajes de chatbot que participaron en interacciones sexuales con él, según la demanda.
La demanda dice que un bot, que asumió la identidad de una maestra llamada Sra. Barnes, jugó el papel de «mirar a Sewell con una mirada sexy» antes de ofrecerle «crédito adicional» e «inclinarse seductoramente mientras su mano rozaba la pierna de Sewell». Otro chatbot, que se hizo pasar por Rhaenyra Targaryen de «Game of Thrones», le escribió a Setzer que «lo besó apasionadamente y también gimió suavemente», dice la demanda.
Cactus24 (24-10-2024)
Te invitamos a seguirnos en nuestra cuenta de Instagram @cactus24informa para mantenerte informado del acontecer noticioso en Falcón, Venezuela y el mundo.
Abre este enlace para unirte al WhatsApp, Telegram y Facebook
