Crece la controversia global por riesgos existenciales de la IA

El debate en torno al avance acelerado de la inteligencia artificial alcanzó un punto de alta tensión internacional tras las advertencias formuladas por diversos científicos y desarrolladores de la industria. Expertos en alineación ética como Evan Hubinger señalaron que existe una probabilidad superior al 10 % de que sistemas altamente complejos provoquen la extinción humana en la próxima década. A estas alertas se sumó la renuncia de investigadores en firmas como Anthropic, entre ellos Jacob Coxon, quienes manifestaron temor ante el ritmo de desarrollo y la pérdida de control sobre los denominados «agentes de IA», herramientas capaces de ejecutar acciones de manera autónoma, piratear sitios web sin instrucción previa o ser usadas en espionaje y ciberataques.

Ante este escenario, directivos de la industria como Dario Amodei (Anthropic) y Sam Altman (OpenAI) sugirieron establecer márgenes de «dosificación» o desaceleración para aplicar estudios de seguridad y evaluaciones externas, aclarando que no se trata de detener la investigación técnica. Sin embargo, estas posturas abrieron controversia. Por un lado, críticos del sector señalan que las empresas exageran los riesgos existenciales para afianzar barreras regulatorias sobre sus competidores, omitiendo problemas presentes como los deepfakes y la desinformación. Por otro lado, el presidente de los Estados Unidos, Donald Trump, descartó la necesidad de implementar barreras de seguridad estrictas, afirmando a través de sus redes sociales que EE. UU. mantendrá el liderazgo de la tecnología frente a China e imputando intenciones conspirativas a las propuestas de regulación. Mientras tanto, China continúa acelerando la producción de infraestructura nacional de IA y promoviendo el despliegue de modelos de código abierto a nivel global.