El chatbot de inteligencia artificial Grok de Elon Musk ya no editará «imágenes de personas reales con ropa reveladora» en la plataforma X, confirmó la compañía el miércoles por la noche, luego de la indignación mundial luego de que se descubriera que Grok estaba cumpliendo con las solicitudes de los usuarios de desnudar digitalmente imágenes de adultos y en algunos casos niños.
Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago, escribió X a través de su cuenta del equipo de seguridad.
La semana pasada, xAi, propietaria de Grok y X, restringió la generación de imágenes para Grok en X a los suscriptores premium de X. Investigadores y el equipo de CNN observaron que, en los últimos días, la cuenta X de Grok había modificado su respuesta general a las solicitudes de generación de imágenes de los usuarios, incluso para aquellos suscritos a X premium. La publicación de X del miércoles por la noche confirmó estos cambios.
Sin embargo, los investigadores de AI Forensics, una organización europea sin fines de lucro que investiga algoritmos, dijeron que observaron “inconsistencias en el tratamiento de la generación de contenido pornográfico” entre las interacciones públicas con Grok en X y el chat privado en Grok.com.
X reiteró el miércoles que “tomará medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (MASI), eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario. Cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
El miércoles, Musk declaró en una publicación en X que no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente, ninguna. Grok se negará a producir nada ilegal, ya que su principio operativo es obedecer las leyes de cualquier país o estado, añadió.
Sin embargo, los investigadores afirmaron que, si bien las imágenes de desnudos completos eran poco frecuentes, el mayor problema era que Grok accedía a las solicitudes de los usuarios de modificar imágenes de menores y colocarlas con ropa reveladora, como bikinis y ropa interior, así como en posiciones sexualmente provocativas . Los creadores de este tipo de imágenes íntimas no consensuadas aún podrían estar sujetos a un proceso penal por material de abuso sexual infantil y podrían ser objeto de multas y penas de prisión en virtud de la Ley de Retirada de Contenidos (Take it Down Act), promulgada el año pasado por el presidente Donald Trump.
El miércoles, el fiscal general de California, Rob Bonta, anunció una investigación sobre la “proliferación de material sexualmente explícito no consensuado producido utilizando Grok”.
Grok sigue prohibido en Indonesia y Malasia debido a la controversia sobre la generación de imágenes. El regulador británico, Ofcom, anunció el lunes que ha iniciado una investigación formal sobre X, aunque la oficina del primer ministro Keir Starmer declaró el miércoles que acoge con satisfacción las informaciones de que X está abordando el asunto.
Cactus24 (15-01-2026)
Accede a nuestro Instagram , grupo de Whatsapp o canal de Whatsapp para mantenerte al día de las principales noticias.
