Exinvestigador de Anthropic advierte sobre riesgos existenciales de la IA y pide frenar su desarrollo

Jacob Coxon, exinvestigador de inteligencia artificial en OpenAI y Anthropic, declaró a la BBC que el personal de la industria trabaja bajo un miedo constante sobre las consecuencias del rápido progreso tecnológico, advirtiendo sobre una alta probabilidad de riesgo existencial si no se frena el ritmo actual. Coxon relató que los empleados planifican sus vidas considerando el impacto de su trabajo e incluso algunos consideran comprar terrenos por temor a la inestabilidad social, señalando que escenarios como un enjambre de bots tomando el control de Internet podrían materializarse en cuestión de seis meses a dos años.

Las declaraciones se suman al llamado del director ejecutivo de Anthropic, Dario Amodei, quien pidió ralentizar el desarrollo y establecer una supervisión independiente, postura que fue respaldada por Sam Altman (OpenAI) y Elon Musk (xAI). Coxon acogió la propuesta pero enfatizó que debe coordinarse con China para evitar una carrera internacional. Ante esto, un portavoz de Anthropic indicó que la empresa promueve medidas de seguridad sólidas, marcos de mitigación de riesgos y pruebas rigurosas para evitar la desalineación de los modelos.

El debate ha generado división en la industria: científicos como Evan Hubinger y Geoffrey Hinton consideran razonable prever un riesgo de extinción superior al 10 %, mientras que figuras como Clement Delangue (Hugging Face), George Arison (Grindr) y Jensen Huang (Nvidia) cuestionaron estas alarmas calificándolas de exageraciones, estrategias para justificar valoraciones bursátiles o afirmaciones falsas. Por su parte, el presidente de Estados Unidos, Donald Trump, sostuvo que su país mantendrá el liderazgo tecnológico frente a China, mientras OpenAI postergó su salida a bolsa citando preocupaciones de seguridad y críticos señalan que el llamado a regular podría buscar la consolidación de un duopolio.