La inteligencia artificial puede facilitar la creación de armas, acelerar ataques informáticos y aumentar la difusión de información falsa, advierten investigadores de MIT FutureTech y la Universidad de Queensland, que identificaron las amenazas de esta tecnología que requieren atención urgente.
En su estudio, publicado el 20 de julio, 272 expertos internacionales evaluaron 24 riesgos según su probabilidad y la gravedad de sus posibles consecuencias entre 2025 y 2030.
Los cinco principales riesgos
Uno de los principales riesgos son las capacidades peligrosas de la IA. Los avances en estos sistemas pueden facilitar tareas complejas y peligrosas, como la persuasión y la vigilancia.
Otra amenaza está relacionada con la competencia entre empresas y países. La búsqueda de ventajas económicas o estratégicas puede impulsar a avanzar con rapidez, resistirse a las restricciones o invertir menos en seguridad.
Los expertos también señalaron riesgos relacionados con las armas y los ciberataques. La IA puede ayudar a detectar vulnerabilidades, generar código y acelerar operaciones cibernéticas ofensivas.
Completan la lista la concentración de poder y la distribución desigual de los beneficios de la tecnología, además de la difusión de información falsa o engañosa.
Si organizaciones y gobiernos mantienen el rumbo actual, 18 de los 24 riesgos analizados tendrían al menos un 10 % de probabilidad de causar consecuencias catastróficas, que el estudio define como más de un millón de muertes, pérdidas superiores a 100.000 millones de dólares o daños intangibles de una escala comparable.
Introducir medidas de mitigación reduciría esas probabilidades, pero no eliminaría por completo las amenazas. Incluso con su aplicación, los riesgos relacionados con las capacidades peligrosas de la IA, las armas y los ciberataques, así como el daño ambiental, alcanzarían el 12 % de probabilidad. La desigualdad y el desempleo, al igual que la concentración de poder, llegarían al 11 %.
Sectores más vulnerables
En el sector de la información, los riesgos incluyen la desinformación, la pérdida de privacidad, la manipulación y la erosión de la confianza en los contenidos. Para la seguridad nacional, las principales amenazas son los ciberataques, el desarrollo de armas, la vigilancia y el uso de sistemas de IA cada vez más avanzados por actores hostiles. En el sector financiero, esta tecnología puede amplificar el fraude, los riesgos cibernéticos, la manipulación de los mercados, las vulneraciones de la privacidad y los fallos de sistemas con efectos económicos más amplios.
Los expertos atribuyen la responsabilidad principal de afrontar estos riesgos a los desarrolladores de IA y a los actores encargados de su gobernanza, como los gobiernos y los reguladores. Mientras tanto, los usuarios de estos sistemas y las partes afectadas por ellos son quienes están más expuestos.
Los autores aclaran que el estudio no pretende predecir el futuro con certeza, sino ayudar a centrar la atención en los riesgos que los expertos consideran graves y plausibles a corto plazo.