Grandes empresas tecnológicas avanzan en la automejora recursiva de la inteligencia artificial, un proceso donde los modelos diseñan a sus sucesores y aceleran el desarrollo, aunque genera crecientes temores por la seguridad global.

¿Qué es la automejora recursiva de la IA y cómo funciona?

La automejora recursiva (RSI, por sus siglas en inglés) es la capacidad de un sistema de inteligencia artificial para perfeccionarse a sí mismo y construir su siguiente versión sin intervención constante. A diferencia de las funciones de apoyo tradicionales donde el software solo ayuda a escribir código básico, la RSI autónoma busca que el sistema gestione de principio a fin la investigación y el desarrollo técnico.

Expertos del sector señalan que este avance incrementa drásticamente la velocidad de procesamiento respecto a la capacidad humana. No obstante, los enfoques sobre el ritmo de implementación varían entre las principales firmas tecnológicas:

• Anthropic: Detalló que su modelo Claude lidera el 26% de la investigación interna para desarrollar su propia versión sucesora bajo supervisión humana.
• OpenAI: Presentó un "pasante de investigación" automatizado para realizar tareas de varios días y proyecta crear un "investigador" de IA autónomo para marzo de 2028.
• xAI: Su fundador, Elon Musk, señaló que cada modelo Grok es construido por el anterior y previó que la automatización total podría lograrse antes de 2027.
• Microsoft: A través de su división de IA liderada por Mustafa Suleyman, apuesta por una "superinteligencia humanista" delimitada por límites estrictos y orientada al servicio humano.

¿Cuáles son los riesgos y temores ante una superinteligencia autónoma?

La principal preocupación de científicos e investigadores radica en la posibilidad de que surja una superinteligencia descontrolada que escape a la supervisión humana.

Anthony Aguirre, director ejecutivo del Future of Life Institute, advirtió que avanzar en este proceso sin las debidas salvaguardas es un riesgo severo para la humanidad, debido al ritmo acelerado con el que la IA ejecuta sus propios procesos.

Asimismo, la incertidumbre sobre este crecimiento desmedido llevó a diversos ejecutivos de la industria a solicitar una pausa en el desarrollo tecnológico. La falta de consenso para aplicar medidas de seguridad de forma paralela a las capacidades del software mantiene divididos a los laboratorios sobre cómo alcanzar una alineación segura.

Por su parte, firmas como Anthropic señalaron estar dispuestas a detener temporalmente sus avances si existe un acuerdo global verificable entre competidores.

En contraste, OpenAI reconoció que aún no existe una fórmula para garantizar una RSI alineada con los valores humanos, aunque defienden la investigación al considerar que estos mismos modelos automatizados pueden servir para supervisar la seguridad del sector.

(Con información de The Associated Press)