El gobierno de Australia anunció la creación de un regulador de seguridad de inteligencia artificial (IA) que supervisará el cumplimiento de nuevas normas para las empresas tecnológicas que operen en el país.

Australia creará regulador de IA tras brecha de OpenAI en portal gubernamental

La medida surge tras una vulneración de un portal gubernamental en junio de este año, perpetrada por un agente autónomo de OpenAI, y busca reforzar los controles sobre los modelos de IA más avanzados.

El primer ministro australiano, Anthony Albanese, anunció este martes que el nuevo organismo tendrá facultades para hacer cumplir estándares de seguridad establecidos por ley y considerados de alcance mundial. 

Las disposiciones se aplicarán a todas las compañías que desarrollen o utilicen sistemas de inteligencia artificial de vanguardia y busquen operar en Australia.

Nuevas reglas obligarán a las empresas a reportar fallos de IA

Entre las principales medidas que contempla el gobierno figura la obligación de que las compañías mantengan controles de seguridad durante todas las etapas de desarrollo y despliegue de sus modelos, además de identificar y gestionar riesgos graves antes de que puedan ocasionar daños.

Las empresas también deberán informar rápidamente a las autoridades sobre incidentes de seguridad, incluidos los casos de comportamiento desalineado, es decir, cuando un sistema de IA actúe en contra de las instrucciones o intenciones de sus desarrolladores.

Asimismo, las nuevas disposiciones permitirán realizar evaluaciones independientes de los modelos de IA más sofisticados, con el propósito de detectar posibles vulnerabilidades y evitar que los sistemas realicen acciones no autorizadas.

Sanciones para quienes no cumplan las normas

Aunque el gobierno australiano confirmó que habrá sanciones económicas para las empresas que incumplan las disposiciones, todavía no precisó el monto ni los mecanismos para aplicarlas.

“Cuando se trata de la oportunidad generacional que la inteligencia artificial ofrece a Australia, he sido muy claro: nuestra tarea es asegurarnos de que demos forma a la IA, en lugar de que la IA nos dé forma a nosotros”, puntualizó Albanese frente a la prensa.

El mandatario señaló que Australia busca mantenerse a la vanguardia en el desarrollo y aprovechamiento de esta tecnología, pero aclaró que también debe garantizar que sus beneficios no comprometan la seguridad de las personas ni de las instituciones públicas.

“Australia es pionera en este ámbito y queremos asegurarnos de que sigamos trabajando para poder aprovechar los beneficios potenciales de la IA”, comentó.

¿Cómo ocurrió la vulneración de OpenAI?

El incidente que impulsó estas reformas ocurrió el 18 de junio, cuando un agente de IA de OpenAI realizaba una tarea de investigación sobre el gasto público en medicamentos y consiguió acceder sin autorización a información del portal del Servicio de Informes de Estadísticas de Medicare.

El sistema encontró obstáculos para obtener los datos que buscaba y recurrió a métodos no autorizados para superar las restricciones del sitio. Durante el proceso accedió a archivos internos, información técnica y estadísticas agregadas.

Aunque la vulneración expuso información que posteriormente se hizo pública, las autoridades señalaron que no encontraron evidencias de que se consultaran expedientes médicos individuales.

Uno de los aspectos que más molestó al gobierno australiano fue la demora de OpenAI para comunicar lo sucedido. La compañía detectó la actividad en agosto, pero notificó a las autoridades hasta septiembre, aproximadamente tres meses después del incidente.

Albanese manifestó su inconformidad directamente a Sam Altman, director ejecutivo de OpenAI, por el tiempo que tardó la empresa en informar sobre la vulneración y por la forma en que presentó el aviso. 

OpenAI terminó reconociendo su responsabilidad por lo ocurrido y ofreció disculpas tanto por el acceso no autorizado como por la demora en su respuesta.

Con información de AP