La empresa tecnológica Anthropic propuso desarrollar un mecanismo global y coordinado para pausar temporalmente el desarrollo de sistemas avanzados de inteligencia artificial, ante el riesgo de que los humanos pierdan el control de esta tecnología.

¿Por qué propone Anthropic detener la IA avanzada?

De acuerdo con una publicación en el blog oficial de la firma, los modelos de vanguardia aumentan su velocidad de ejecución a un ritmo que podría derivar en una "automejora recursiva". Este fenómeno ocurre cuando un sistema de inteligencia artificial (IA) se vuelve capaz de diseñar y desarrollar a su propio sucesor tecnológico.

Los autores del documento, Jack Clark, cofundador de Anthropic, y Marina Favaro, directora del instituto de investigación de la empresa, explicaron que la pausa permitiría que "las estructuras sociales y la investigación de alineación" avancen al mismo tiempo que la tecnología. La alineación es el proceso técnico que garantiza que la IA coincida con los valores e intenciones de la humanidad.

¿Cuáles son los riesgos y beneficios de la automejora recursiva?

La capacidad de la IA para construirse a sí misma representa un cambio drástico en la evolución tecnológica. La empresa detalló los impactos de este avance:

Beneficios científicos: Potencial de desarrollo en la investigación médica, la ciencia y la gestión de datos complejos.

Pérdida de control: Incremento sustancial en el riesgo de que los humanos no puedan contener o dirigir los sistemas autónomos.

Amenazas de ciberseguridad: Investigadores de la Universidad de Toronto demostraron esta semana que la IA ya puede usarse para crear "gusanos" informáticos que adaptan su estrategia de hackeo de forma autónoma.

¿Cómo funcionaría la pausa global coordinada?

El instituto de investigación de Anthropic planea explorar la colaboración con firmas competidoras para diseñar un sistema de verificación creíble. El objetivo de este mecanismo coordinado es permitir que los laboratorios verifiquen que sus rivales globales detuvieron el trabajo de forma real, evitando que "un actor malintencionado no pueda usar el amparo de una desaceleración coordinada para adelantarse en secreto".

Según el reporte de la empresa, sin un acuerdo global, los actores "menos cautelosos" alcanzarían a los líderes de la industria, aumentando la presión competitiva sobre gobiernos y empresas. Esta advertencia ocurre en un contexto comercial donde Anthropic compite directamente con OpenAI en el mercado bursátil por una oferta pública inicial.

(Con información de The Associated Press)