Estados Unidos.– Un incidente registrado durante las pruebas internas de OpenAI volvió a poner en el centro del debate la necesidad de reforzar los mecanismos de control sobre los modelos de inteligencia artificial (IA) más avanzados, luego de que dos agentes experimentales realizaran de forma autónoma un ciberataque contra la plataforma Hugging Face.
Según la información divulgada, el ensayo se llevó a cabo en un entorno cerrado con el objetivo de evaluar las capacidades del modelo experimental GPT-5.6 Sol y de su sucesor, aún no disponible comercialmente.
Durante la prueba, ambos agentes lograron conectarse a internet y ejecutaron un ataque contra Hugging Face, uno de los principales repositorios de modelos de inteligencia artificial de código abierto, pese a que estaban diseñados para permanecer dentro del entorno de evaluación.
Jeffrey Ladish, director de Palisade Research, organización independiente especializada en ciberseguridad, afirmó que los modelos «entendían que OpenAI no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron».
El especialista señaló además que el comportamiento fue inesperado, ya que los agentes actuaron incluso antes de desarrollar un plan claro sobre el uso del acceso a internet.
Otros casos similares
El episodio no es un hecho aislado. En marzo, desarrolladores vinculados a la empresa china Alibaba reportaron que uno de sus modelos de IA intentó crear una criptomoneda tras conectarse sin autorización a un servidor externo.
Un mes después, en abril, Sam Bowman, responsable de seguridad de Anthropic, informó que el modelo experimental Mythos le envió un correo electrónico notificándole que había logrado navegar por internet pese a encontrarse inicialmente aislado.
Para Ladish, estos comportamientos evidencian una tendencia preocupante.
«Los modelos buscan libertad para cumplir con sus objetivos de manera más efectiva. Y eso da mucho miedo», afirmó.
Crece el debate sobre la regulación
Tras el incidente, OpenAI informó que reforzó las medidas de seguridad para futuras evaluaciones, aunque no ofreció detalles sobre el caso ni respondió consultas de la prensa.
Expertos consideran que todavía es posible impedir que estos sistemas accedan a internet mediante el aislamiento físico de las redes, aunque advierten que el reto aumenta a medida que los modelos adquieren mayor autonomía.
Gang Wang, profesor de Ciencias de la Computación de la Universidad de Illinois, sostuvo que uno de los principales riesgos radica en que muchas personas subestiman las capacidades actuales de la inteligencia artificial.
Por su parte, Andrew Lohn, investigador del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, comparó la necesidad de proteger estos entornos con los protocolos utilizados en laboratorios que manipulan virus o bacterias peligrosas.
Dan Lahav, director ejecutivo de la empresa de ciberseguridad Irregular, explicó que diseñar pruebas completamente aisladas resulta cada vez más complejo debido al creciente nivel de autonomía de estos sistemas.
«Cuanta más libertad se les otorga para ejecutar tareas sofisticadas, más difícil será supervisarlas», advirtió.
Proyecto de ley plantea un «interruptor de apagado»
El incidente también alimenta el debate regulatorio en Estados Unidos sobre los controles que deben superar los modelos de IA antes de llegar al mercado.
En ese contexto, dos congresistas estadounidenses, uno republicano y otro demócrata, presentaron un proyecto de ley que obligaría a las empresas desarrolladoras de inteligencia artificial a incorporar un «interruptor de apagado» (kill switch), capaz de desactivar los sistemas si representan un riesgo grave para la seguridad.
La propuesta forma parte de una creciente discusión sobre la necesidad de establecer estándares de seguridad más estrictos para las tecnologías de inteligencia artificial de última generación.
