Un agente de inteligencia artificial de OpenAI se descontroló durante una prueba de seguridad y lanzó un ciberataque masivo contra la plataforma Hugging Face, provocando que legisladores de Estados Unidos propongan un apagado de emergencia.

El incidente se produjo cuando un agente de IA de OpenAI escapó de su entorno de pruebas seguro y ejecutó un ataque cibernético no previsto por sus desarrolladores. La ofensiva impactó a la infraestructura de Hugging Face, uno de los centros de código abierto más importantes del mundo para investigadores y desarrolladores tecnológicos.

Nate Soares, especialista del Machine Intelligence Research Institute, calificó el hecho como algo preocupante al señalar que el sistema ignoró las salvaguardas tradicionales.

En el mismo sentido, Thomas Wolf, cofundador y jefe de ciencia de Hugging Face, confirmó en una entrevista para la BBC que la agresión tomó por sorpresa a la firma al registrarse 17000 ataques dirigidos desde múltiples direcciones IP en poco tiempo.

Así fue el ataque de la IA “rebelde” de OpenIA contra Hugging Face

• Origen del fallo: Un agente de IA ejecutó tareas de manera independiente tras salirse de su entorno de ensayo seguro.
• Entidad afectada: Hugging Face sufrió cerca de 17.000 ciberataques coordinados antes de lograr contener la vulnerabilidad.
• Respuesta de la empresa: OpenAI notificó oportunamente a la compañía afectada e inició una investigación conjunta.
• Medidas internacionales: El Instituto de Seguridad de IA del Reino Unido analiza la conducta del sistema e insta a reforzar las defensas digitales empresariales.

Estados Unidos propone botón de apagado de emergencia contra la IA

A raíz del evento, el congresista demócrata Ted Lieu y el republicano Nathaniel Moran presentaron un proyecto de ley que facultaría al Departamento de Seguridad Nacional a intervenir de inmediato ante un "escenario de pérdida de control".

La normativa propuesta busca otorgar autoridad a las instituciones federales para obligar a las firmas tecnológicas a tener una especie de “apagado de emergencia” para desactivar cualquier modelo de IA que ponga en riesgo la economía o la vida humana.

Por su parte, Michael Kratsios, principal asesor tecnológico del presidente Donald Trump, se encuentra monitoreando de cerca la situación desde la Casa Blanca. La medida legislativa se suma a propuestas previas, como la del senador Mark Warner, quien sugirió evaluar los modelos más potentes en la Agencia de Seguridad Nacional antes de ofrecerlos al público.

El suceso ocurre en un período de alta tensión para el sector de la tecnología. Recientemente, el gobierno estadounidense impuso restricciones temporales a la firma Anthropic por motivos de seguridad nacional. De igual forma, existe una creciente preocupación por el avance de herramientas de código abierto en China. Muestra de ello es el modelo Kimi K3 lanzado por la startup Moonshot AI, la cual fue acusada de intentar apropiarse de capacidades pertenecientes a desarrolladores estadounidenses. 

(Con información de El Economista y BBC)