Anthropic frena mythos: ia con potencial destructivo preocupa a wall street y al gobierno
El desarrollo de un nuevo modelo de inteligencia artificial de Anthropic, llamado Mythos Preview, ha generado una alarma global tras revelar su capacidad para detectar vulnerabilidades de seguridad con una precisión asombrosa. La compañía, liderada por Dario Amodei, ha decidido suspender su lanzamiento público, ante la preocupación de que esta herramienta, en manos equivocadas, podría impulsar una nueva era de ciberataques automatizados y a gran escala.
Un arma digital con consecuencias imprevistas
Según advierte el director técnico de Check Point Software para España y Portugal, Eusebio Nieva, “Si cae en malas manos es un problema”. La velocidad y la sofisticación con la que Mythos identifica fallos, incluso aquellos con décadas de antigüedad, lo convierte en algo más que una herramienta de desarrollo; se perfila como un arma potencial. La compañía, tras encontrar vulnerabilidades subyacentes durante las pruebas iniciales – errores que datan de hasta 27 años – ha optado por una estrategia cautelosa: restringir el acceso a investigadores de seguridad y grandes organizaciones como Google, Amazon, Apple, Microsoft y Nvidia.
Este movimiento refleja un dilema recurrente en la industria de la IA: ¿cómo equilibrar la innovación con la seguridad? Históricamente, las herramientas de seguridad han beneficiado más a los defensores que a los atacantes, pero Mythos parece desafiar esa tendencia. Aunque Anthropic asegura que su objetivo es reforzar las defensas cibernéticas a nivel mundial, la posibilidad de su explotación para automatizar ciberataques es innegable.
La amenaza se extiende más allá de los expertos
Royal Hansen, vicepresidente de seguridad de Google, expresa su inquietud: “Me preocupa que el porcentaje de atacantes que usa IA sea mayor que el de los defensores”. La IA generativa, gracias a herramientas como Mythos, permite a los delincuentes crear ataques más complejos y dirigidos con conocimientos técnicos limitados. Según Nieva, las tres actividades que más explotan la IA en la red son el phishing, la creación de fraudes personalizados y la manipulación de sistemas mediante comandos maliciosos.
Un error que podría costar caro
En una dura lección para la industria, hace tan solo tres días, el propio Nieva se encontró a punto de ser víctima de un intento de estafa mediante un supuesto mensaje de la Dirección General de Tráfico.