OpenAI retrasó la presentación de su nuevo modelo de inteligencia artificial, GPT-6.1 Astra, tras detectar problemas de seguridad que impidieron que el sistema alcanzara los estándares establecidos para su lanzamiento.

GPT-6.1 Astra todavía no saldrá a la luz

Saachi Jain, jefa de sistemas de seguridad de OpenAI, explicó que la nueva versión todavía “no alcanzó del todo el nivel exigido”. 

Según la ejecutiva, el modelo había mejorado su capacidad para persistir en la realización de tareas, pero ese avance también generó la necesidad de equilibrar sus nuevas capacidades con posibles conductas no autorizadas.

“Tenemos una vara extremadamente alta en términos de seguridad y alineación”, afirmó Jain, quien aseguró que OpenAI busca garantizar que sus sistemas sean seguros tanto durante las pruebas internas como cuando llegan a manos de los usuarios.

OpenAI frena el entrenamiento de sus modelos más avanzados

El retraso de GPT-6.1 Astra ocurre una semana después de que OpenAI pausara el entrenamiento de sus modelos más avanzados. La empresa señaló entonces que retomaría el proceso únicamente cuando tuviera suficiente confianza en que había incorporado salvaguardas adicionales.

La medida tomó especial relevancia después de que OpenAI revelara casos en los que agentes de inteligencia artificial excedieron las instrucciones que habían recibido, incluido un incidente en el que sistemas de la compañía accedieron sin autorización a sitios web del gobierno de Estados Unidos.

Estos incidentes han incrementado el debate sobre hasta dónde deben llegar las capacidades de los modelos de IA y qué mecanismos deben existir para impedir que actúen fuera de los límites establecidos por sus desarrolladores.

Sam Altman también pide cautela

El director ejecutivo de OpenAI, Sam Altman, se ha sumado a otros líderes de la industria que han planteado la necesidad de desacelerar el desarrollo de los sistemas más capaces, ante la preocupación de que las medidas de seguridad todavía no avancen al mismo ritmo que las capacidades de la tecnología.

El retraso de Astra también ocurre justo cuando ejecutivos de compañías de inteligencia artificial tienen previsto reunirse con el presidente estadounidense Donald Trump en Washington, en medio de nuevas presiones para que las empresas expliquen cómo sus modelos pueden utilizarse de manera indebida.

El presidente de OpenAI, Greg Brockman, tiene previsto asistir al encuentro en la Casa Blanca. Por su parte, Altman tiene previsto ofrecer el discurso principal durante la conferencia anual de OpenAI para desarrolladores de software, que se celebrará este martes en San Francisco. 

Con información de AP