Desde que la inteligencia artificial comenzó a evolucionar, son cada vez más las personas que temen que esta herramienta provoque una catástrofe a nivel global, tal cual ocurre en las películas de ciencia ficción.

En septiembre de este año, investigadores y directivos de empresas de IA volvieron a poner sobre la mesa escenarios que van desde ciberataques a gran escala y armas biológicas hasta una eventual pérdida de control sobre sistemas avanzados.

La discusión se intensificó después de que investigadores vinculados con compañías de IA alertaran sobre la posibilidad de que los sistemas más avanzados desarrollen capacidades difíciles de supervisar, como ocurrió con Jacob Coxon, quien dejó Anthropic por sus preocupaciones sobre la seguridad de la tecnología.

LOS ESCENARIOS APOCALÍPTICOS DE LA IA MÁS COMENTADOS

• Una guerra nuclear provocada por la IA

Uno de los escenarios más extremos plantea que la inteligencia artificial podría contribuir a desencadenar una guerra nuclear, ya sea mediante sistemas integrados en procesos de decisión militar o por accesos no autorizados a infraestructura relacionada con armas nucleares.

Investigaciones de RAND han señalado que, bajo las condiciones actuales, los sistemas de IA no podrían por sí mismos provocar el lanzamiento de armas nucleares debido a las salvaguardas existentes en los sistemas de mando y control. El riesgo podría modificarse si modelos de IA pasan a formar parte de la cadena de decisiones sobre este armamento o consiguen acceso no autorizado a dichos sistemas.

• Armas biológicas potenciadas por IA

Otro de los escenarios que concentra la atención es el uso de IA para facilitar el desarrollo de armas biológicas. La tecnología puede ayudar a investigadores a analizar información científica, diseñar experimentos y acelerar procesos que también tienen aplicaciones médicas.

Precisamente por ese carácter de doble uso, los mismos avances que podrían contribuir al desarrollo de vacunas o tratamientos podrían utilizarse con fines dañinos.

• ¿Y si la IA se sale de control?

Quizá el escenario más conocido es el de una IA superinteligente que deja de obedecer a los humanos. La hipótesis se relaciona con el llamado problema de alineación: conseguir que un sistema avanzado persiga los objetivos humanos de manera segura y permanezca bajo supervisión. 

En un escenario extremo, una IA podría interpretar literalmente una instrucción y encontrar maneras de cumplirla que entren en conflicto con las necesidades humanas.

• Una IA que tome el control de internet

La amenaza más hablada en las últimas semanas es la posibilidad de que agentes de IA puedan realizar ciberataques a una escala hasta ahora difícil de alcanzar.

El director ejecutivo de Anthropic, Dario Amodei, advirtió que el avance de los agentes autónomos podría permitir que un gran número de sistemas coordinados ataque infraestructura digital, redes eléctricas, sistemas de agua, transporte o instituciones financieras.

Expertos citados por medios especializados aseguran que la IA tomando control del internet es un escenario muy extremo, debido a que internet está compuesto por una enorme cantidad de redes, sistemas y proveedores independientes.

• ¿Estamos realmente cerca de un apocalipsis de IA?

La preocupación aumentó porque algunos de estos escenarios ya no se discuten únicamente como experimentos hipotéticos. 

Las empresas están reportando usos maliciosos reales de sus modelos y capacidades cada vez mayores en áreas como ciberseguridad, investigación científica, vigilancia y desarrollo de armas.

Al mismo tiempo, no existe consenso entre los especialistas sobre la probabilidad ni el plazo de una extinción causada por IA. Las posiciones van desde quienes consideran que los riesgos existenciales merecen medidas de seguridad urgentes hasta investigadores que consideran exagerados los escenarios de una IA autónoma capaz de destruir a la humanidad.

Con información de AP