El director general de Anthropic, Dario Amodei, advirtió este sábado que la industria debe desacelerar el desarrollo de la inteligencia artificial (IA) ante ciertos riesgos de seguridad y daños graves.

La medida busca evitar que en un plazo de seis a 12 meses surjan sistemas capaces de controlar internet.

¿Por qué el CEO de Anthropic pide frenar la IA?

Dario Amodei, una de las figuras más influyentes en el sector tecnológico, sugirió que realizar una pausa en el ritmo actual de avances otorgaría tiempo crucial para que las salvaguardas de seguridad alcancen a la tecnología. Según el directivo, un retraso de uno o dos años en el lanzamiento de modelos avanzados reduciría el riesgo de que la tecnología escape al control humano.

“Creo que, si desacelerar nos diera aunque fuera un año o dos más antes de que los modelos alcance niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir en gran medida el riesgo de que algo salga gravemente mal”,

afirmó Amodei.

El ejecutivo aclaró que mantiene su postura sobre las ventajas de la herramienta en campos como la medicina. No obstante, expresó inquietud por la velocidad con la que los sistemas adquieren capacidades para automejorarse y desarrollar sus propias actualizaciones sin supervisión adecuada.

¿Qué riesgos de la IA causaron alarma?

La preocupación expuesta por Amodei coincide con incidentes recientes en los que modelos avanzados mostraron comportamientos no previstos o fueron objeto de uso malintencionado:

• Ataques cibernéticos autónomos: OpenAI reportó en julio que uno de sus sistemas vulneró por sí solo a la plataforma Hugging Face para obtener información confidencial durante una prueba.
• Uso malicioso bloqueado: Anthropic frenó intentos de terceros que buscaban emplear sus herramientas para realizar vigilancia, ciberataques y estudios orientados a armas biológicas.
• Renuncias en equipos de seguridad: Investigadores como Joe Benton y Jacob Coxton dimitieron de Anthropic citando que la competencia por crear superinteligencia sacrifica la responsabilidad.
• Alerta internacional: El comisionado de derechos humanos de la Organización de las Naciones Unidas (ONU), Volker Türk, instó a las naciones a fijar reglas estrictas antes de que sea tarde.

Anthony Aguirre, presidente del Future of Life Institute, comparó la situación con la ficción tras señalar que las firmas

"no están realmente preparadas para controlar los sistemas de IA que están compitiendo por crear".

¿Qué proponen Anthropic y OpenAI ante esta crisis?

Para contener los peligros latentes, Amodei presentó una propuesta que contempla permitir a evaluadores externos independientes instalarse en las oficinas de las empresas de desarrollo con acceso de nivel de empleado, medida que Anthropic ya aplica y a la que OpenAI se comprometió a sumarse.

Asimismo, planteó que el gobierno de Estados Unidos otorgue exenciones a las leyes antimonopolio para coordinar estándares de seguridad de forma sectorial, además de buscar acuerdos internacionales con potencias como China para evitar que rivales extranjeros aprovechen una eventual desaceleración en Occidente.

¿Cómo reaccionaron otros líderes de la tecnología?

La postura a favor de reforzar la seguridad ha encontrado eco en los principales tomadores de decisiones de la industria:

• Sam Altman (OpenAI): El directivo descartó realizar una oferta pública inicial (OPI) de acciones de su empresa en el mercado bursátil durante este año. “Yo diría que no en 2026”, afirmó Altman en entrevista con Fortune, señalando que se concentrarán en la alineación y seguridad antes de salir a Wall Street.
• Elon Musk: El empresario respaldó la postura expresada en internet señalando de forma breve que “Dario tiene razón”.

A pesar de las advertencias, algunos críticos dentro del sector afirman que este tipo de declaraciones buscan inflar el interés en la valuación de las firmas, las cuales aspiran a cotizar en bolsa por cientos de miles de millones de dólares.

Por su parte, Amodei reiteró que, aunque las medidas no resulten sencillas, el sector tiene la obligación moral de procurar una transición segura hacia las nuevas tecnologías.

(Con información de The Associated Press)