David Robinson, exdirector de transparencia en OpenAI, dimitió tras advertir en The Atlantic que las grandes empresas tecnológicas carecen de los controles necesarios para evitar riesgos catastróficos por fallos inevitables en la inteligencia artificial.

Robinson hizo pública su renuncia denunciando que OpenAI y la industria en general avanzan rápido de un lanzamiento a otro sin la debida minucia. Explicó que la empresa ha operado mediante "prueba y error", un modelo peligroso cuando la potencia de los sistemas incrementa los daños potenciales.

Durante sus declaraciones, destacó los siguientes aspectos sobre la gestión de la tecnología:

• Falta de rigor: Criticó el enfoque actual y exigió una precisión "cercana a la perfección desde el principio".
• Control deficiente: Recordó el fracaso de la compañía al intentar evitar que su propia tecnología se descontrolara en fases de prueba.
• Modelo industrial: Planteó que las firmas del sector deben regularse como centrales nucleares, con estrictas capas de protección para evitar desastres por fallos humanos.

"Mis antiguos compañeros son inteligentes, trabajan duro y se esfuerzan por tomar buenas decisiones... Pero a medida que la empresa avanza a toda velocidad de un lanzamiento a otro, no logra alcanzar el nivel de atención que, en mi opinión, es necesario",

afirmó Robinson.

Expertos advierten riesgos de la IA

La dimisión de Robinson se suma a una ola de advertencias emitidas por empleados del sector en las últimas semanas sobre escenarios potencialmente catastróficos para la humanidad.

Ante la creciente preocupación pública, Dario Amodei, director ejecutivo de Anthropic PBC, propuso desacelerar el desarrollo de modelos avanzados e incorporar evaluadores externos para auditar su seguridad.

Esta iniciativa ha contado con el respaldo de directivos de la industria como Sam Altman, director ejecutivo de OpenAI, en medio del debate global sobre la regulación de estas herramientas.

(Con información de redes sociales)