Anthropic frena en seco: su CEO pide ralentizar el desarrollo de IA

Dario Amodei, CEO de Anthropic, ha lanzado un mensaje contundente: hay que pisar el acelerador de freno en el desarrollo de inteligencia artificial. Según The Verge, el ejecutivo ha presentado un plan en tres fases para lo que denomina “pace the frontier” —un concepto que en el fondo significa reducir el ritmo de entrenamiento e investigación en IA.

La propuesta de Amodei responde a una preocupación creciente: mientras la tecnología avanza a velocidad de vértigo, los sistemas de salvaguardas y los mecanismos de evaluación quedan rezagados. Su plan contempla que empresas e instituciones reguladoras tengan tiempo suficiente para evaluar los modelos de IA y garantizar que cumplen con estándares de seguridad.

El primer paso del plan ya está en marcha de forma unilateral. Anthropic ha decidido abrir el acceso a sus modelos a evaluadores externos independientes como METR, permitiéndoles examinar en profundidad cómo la compañía adhiere a sus compromisos de seguridad. Los pasos siguientes supondrían que toda la industria se alineara en torno a principios similares, presumiblemente con la implicación de organismos reguladores.

Esta postura destaca a Anthropic como una voz diferente en un sector donde la competencia desenfrenada por alcanzar modelos cada vez más potentes es la norma. El mensaje es claro: la velocidad no puede estar por encima de la responsabilidad.