El director ejecutivo de Anthropic, Dario Amodei, expresó su apoyo a la idea de un "interruptor de apagado" para la inteligencia artificial, pero advirtió que no es una solución perfecta y que los modelos de IA suficientemente poderosos podrían eludir los intentos de desactivación.
Consultado sobre el proyecto de ley del congresista estadounidense Ted Lieu que propone un mecanismo de desactivación para la IA, Amodei dijo en una entrevista a CBS que considera válido el concepto. "La idea de que necesitamos alguna forma de desactivar, limitar o apagar los modelos de IA" es importante, afirmó, aunque aclaró que "no es lo único" que se necesita.
El CEO advirtió sobre las limitaciones de este enfoque: "Si un modelo de IA es lo suficientemente poderoso, puede eludir los intentos de apagarlo. Y hemos visto eso en simulaciones también. Así que puede que no funcione en absoluto". Amodei explicó que su empresa aborda este desafío mediante un concepto de "defensa en profundidad", basado en el modelo del queso suizo para la gestión de riesgos.
"Imaginen una rebanada de queso suizo; bloquea algunas cosas, pero hay agujeros en el queso suizo. Pero si tomo cinco rebanadas de queso suizo y las pongo juntas, los agujeros en diferentes capas están en lugares diferentes. Y entonces es muy difícil atravesar toda la pila de queso suizo", explicó el ejecutivo.
Amodei enfatizó que "no hay una sola cosa que nos proteja de los riesgos de la IA: tenemos que ser cuidadosos en todos los niveles". "Ninguna defensa es perfecta, pero si estamos siendo cuidadosos en todas partes, que es lo que permitirá ganar tiempo adicional, entonces creo que las cosas pueden ir bien", agregó.
En este contexto, propuso desacelerar el desarrollo de dicha tecnología mediante un mayor control del entrenamiento y la ejecución de los modelos de IA, consiguiendo hacer el proceso más seguro.
