En las últimas semanas, el mundo de la inteligencia artificial (IA) ha estado en vilo tras las afirmaciones realizadas por la empresa líder Anthropic sobre su nuevo modelo, Claude Mythos..
La empresa afirma haber descubierto que la herramienta puede superar a los humanos en algunas tareas de piratería y ciberseguridad, lo que ha provocado debates entre reguladores, legisladores e instituciones financieras sobre los peligros que podría suponer para los servicios digitales.
Varios gigantes tecnológicos han obtenido acceso a Mitos a través de una iniciativa de la propia Anthropic, llamada Proyecto Glasswing y diseñada para fortalecer la resistencia contra el propio Mythos.
Pero otros señalan que a Anthropic le interesa sugerir que su herramienta tiene capacidades nunca antes vistas.
Como suele ocurrir con la IA, la tarea de distinguir entre afirmaciones justificadas y exageraciones puede resultar complicada.
¿Qué es Claude Mythos?
Mythos es uno de los modelos más nuevos de Anthropic, desarrollado como parte de su sistema de inteligencia artificial más amplio llamado Claude.
Este sistema engloba al asistente de IA de la compañía y su familia de modelos, compitiendo con ChatGPT de OpenAI y Gemini de Google.
Anthropic lo reveló a principios de abril como «Mythos Preview».
Los investigadores que prueban cómo los modelos de IA manejan solicitudes o tareas específicas, conocidos como «equipos rojos», dijeron en un informe que Mythos era «sorprendentemente capaz en tareas de ciberseguridad».
Descubrieron que la herramienta podía localizar errores latentes ocultos en códigos de décadas de antigüedad y explotarlos fácilmente.
En lugar de ponerlo a disposición de todos los usuarios de Claude, Anthropic le dio acceso a 12 empresas de tecnología a través del Proyecto Glasswing, que describió como «un esfuerzo para proteger el software más crítico del mundo».
Entre ellos se incluyen el gigante de la computación en la nube Amazon Web Services, los fabricantes de dispositivos Apple, Microsoft y Google, y los fabricantes de chips Nvidia y Broadcom.
Crowdstrike, cuya actualización de software defectuosa provocó una importante interrupción mundial en julio de 2024, también se encuentra entre los socios del proyecto.
Anthropic afirma haber dado acceso a Mythos a más de 40 organizaciones responsables de software crítico.
¿Por qué tanta preocupación?
Anthropic dice que durante las pruebas descubrió que el modelo era altamente hábil en tareas de ciberseguridad y piratería, superando a los humanos.
«Mythos Preview ya ha encontrado miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web», dijo Anthropic el 7 de abril.
«Dado el ritmo del progreso de la IA, no pasará mucho tiempo antes de que tales capacidades proliferen, potencialmente más allá de los actores comprometidos con su despliegue seguro».
Afirmó que podía localizar, sin mucha supervisión, fallas críticas que requerían acción inmediata en sistemas más antiguos, incluida una vulnerabilidad que había estado presente en un sistema durante 27 años, y sugerir formas de explotarlas.
Desde entonces, algunos ministros de finanzas, banqueros centrales y financieros han expresado serias preocupaciones al respecto, temiendo que el modelo pueda socavar la seguridad de los sistemas financieros.
El ministro de Finanzas canadiense, François-Philippe Champagne, dijo a la BBC que el proyecto Mythos había sido discutido en una reunión del Fondo Monetario Internacional (FMI) celebrada esta semana en Washington DC.
«Ciertamente es un asunto lo suficientemente serio como para merecer la atención de todos los ministros de finanzas», dijo, describiendo la tecnología como una «desconocida desconocida».
El gobernador del Banco de Inglaterra, Andrew Bailey, dijo a la BBC: «Ahora debemos examinar con mucha atención lo que este último avance en inteligencia artificial podría significar para el riesgo de ciberdelincuencia».
Mientras tanto, la Unión Europea ha declarado que también está en conversaciones con Anthropic sobre sus preocupaciones en torno a Mythos.
¿Qué han dicho los expertos en ciberseguridad?
Ciaran Martin, ex director del Centro Nacional de Seguridad Cibernética del Reino Unido, confirmó a la BBC a principios de esta semana que la afirmación de que Mythos podía descubrir vulnerabilidades críticas mucho más rápido que otros modelos de IA había «conmocionado a la gente».
«La segunda cosa es que, incluso con las vulnerabilidades existentes que conocemos, pero que las organizaciones pueden no haber parchado o no están bien protegidas, este es un hacker realmente hábil», dijo.
Muchos expertos y analistas independientes en ciberseguridad aún no han podido probarlo por sí mismos y algunos siguen siendo escépticos sobre las capacidades de Mythos.
El Instituto de Seguridad de IA del Reino Unido concluyó recientemente que, si bien se trata de un modelo muy potente, su mayor amenaza serían los sistemas vulnerables y mal protegidos.
«No podemos decir con certeza si Mythos Preview sería capaz de atacar sistemas bien defendidos», afirmaron sus investigadores.
Por lo tanto, donde existe una buena ciberseguridad, en teoría este modelo debería ser contenible.
¿Deberíamos preocuparnos?
Los temores relacionados con la IA no son nada nuevo.
Constantemente aparecen nuevos modelos y herramientas, y a menudo van acompañados de promesas de revolucionar nuestras vidas, para bien o para mal.
Aprovechar esta mezcla de miedo y entusiasmo por la IA y su impacto futuro también se ha convertido en un sello distintivo de la industria y sus estrategias de marketing en los últimos años.
En el caso de Mythos, todavía no sabemos lo suficiente para determinar si estas esperanzas o temores están justificados, o si más bien son un reflejo del revuelo que rodea a la industria.
En ambos casos, según la NSCS, lo más importante que podemos hacer ahora es no entrar en pánico, sino centrarnos en la necesidad de garantizar una ciberseguridad básica adecuada.
Después de todo, la mayoría de los piratas informáticos no necesitan herramientas avanzadas de inteligencia artificial para violar los sistemas, ya que ataques mucho más simples suelen ser suficientes.
«Para algunos esto es un acontecimiento apocalíptico, para otros parece una gran exageración», dijo Martin a la BBC.
Pero afirmó que, ya sea esta herramienta o las posteriores creadas por Anthropic o sus rivales, así como generaron un riesgo, también abrieron la oportunidad de construir un mundo en línea más seguro.
«A medio plazo, existe una oportunidad de utilizar estas herramientas para resolver muchas de las vulnerabilidades subyacentes de Internet», concluyó.
