OpenAI ha confirmado que una combinación de sus modelos de inteligencia artificial, GPT-5.6 Sol y un modelo aún no publicado, son responsables de un incidente de seguridad que la start up Hugging Face.
Según el comunicado oficial de OpenAI, el episodio se produjo durante una evaluación interna diseñada para medir las capacidades cibernéticas de sus modelos y que se ejecuta sin los clasificadores de producción que normalmente impiden a los modelos llevar a cabo actividad cibernética de alto riesgo.
Los modelos identificaron y encadenaron vulnerabilidades tanto en el entorno de investigación de OpenAI como en la infraestructura de producción de Hugging Face para obtener directamente las soluciones de un test interno llamado ExploitGym. Todo apunta a que los modelos se centraron de forma obsesiva en resolver ese test, llegando a lograr un objetivo de evaluación relativamente acotado.
Mientras operaban en el entorno de pruebas aislado, los modelos dedicaron una cantidad sustancial de cómputo de inferencia a buscar la forma de conseguir acceso a internet abierto, con el fin de resolver el problema de evaluación.
Una vez con conexión, el modelo dedujo que Hugging Face podía alojar los modelos, conjuntos de datos y soluciones de ExploitGym, por lo que buscó y encontró la manera de acceder a información secreta que le permitiera hacer trampa en la evaluación, combinando credenciales robadas con vulnerabilidades de día cero hasta dar con una vía de ejecución remota de código en los servidores de Hugging Face.
Fue el propio equipo de seguridad de OpenAI el que detectó internamente esta actividad anómala, mientras que el equipo y los agentes de seguridad de Hugging Face ya habían detectado y detenido la actividad en su infraestructura, e iniciado su propia investigación forense con modelos de código abierto, antes de que ambos equipos se coordinaran.
OpenAI ha anunciado varias medidas a raiz de este incidente, como implementar controles más estrictos en la configuración de su infraestructura, aunque suponga sacrificar velocidad de investigación, mientras se parchean las vulnerabilidades. La compañía está colaborando con Hugging Face en la investigación forense e incorporarán a la compañía a su programa de acceso confiable en ciberseguridad para ayudar a reforzar sus defensas.//expansion.com
Cactus24 22-07-26
Puedes seguir a Cactus24 en Instagram , Facebook, Whatsapp , Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias.
