El director ejecutivo y cofundador de Anthropic, Dario Amodei, admitió que la industria tecnológica ha engañado al público sobre los peligros de la inteligencia artificial, advirtiendo que existen riesgos reales que podrían amenazar a la humanidad si no se toman medidas urgentes.
"No les voy a mentir: hay peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre los riesgos de esta tecnología", declaró Amodei en una entrevista con el programa 'Sunday Morning' de CBS News.
El ejecutivo reconoció que no había entendido completamente "cómo sería realmente cuando el progreso fuera tan rápido como ha sido", señalando que el desarrollo de la IA sigue una curva exponencial que se está volviendo más pronunciada.
"No significa que tengamos que entrar en pánico hoy. No significa que tengamos que cerrarlo todo. Pero yo diría que es una señal de advertencia. Es una señal de advertencia de que necesitamos desacelerar", afirmó.
La observación de Amodei cobra especial relevancia tras las declaraciones del exinvestigador de Anthropic y OpenAI Jacob Coxon, quien advirtió esta semana que ambas empresas están "apostando con nuestras vidas" con el desarrollo de una superinteligencia que se automejora.
Ante esto, Amodei anunció que Anthropic dará a evaluadores independientes acceso permanente a sus modelos y respaldó la regulación federal, incluida la posibilidad de un "interruptor de apagado" obligatorio para cerrar IA riesgosa.
Sin embargo, el ejecutivo rechazó la prohibición total de la superinteligencia, argumentando que renunciar a los "increíbles beneficios" y las curas médicas que podría ofrecer no lo considera correcto.
Amodei reconoció además sentirse "incómodo" con que esta tecnología esté siendo construida por empresas privadas, sugiriendo algún tipo de supervisión o gobernanza conjunta por parte de "una combinación de gobiernos elegidos democráticamente".
"Si construimos de la manera correcta, creo que la probabilidad de que suceda algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que suceda algo malo es muy alta", concluyó.
