Redacción Ciencia.- La multinacional Google ha advertido del importante cambio en el uso malicioso de la inteligencia artificial (IA) y de que los ciberdelincuentes y grupos de espionaje ya están utilizando sistemas cada vez más autónomos y más rápidos, capaces de planificar, automatizar y ejecutar un ataque por sí solos.
Este martes, la tecnológica publicó un informe elaborado por el Threat Intelligence Group de la compañía, que revela cómo los atacantes están utilizando masivamente la inteligencia artificial para optimizar sus operaciones y cómo los ciberdelincuentes están logrando robar valiosa propiedad intelectual relacionada con la IA.
El informe «AI Threat Tracker» (‘Threat Tracker con IA’) elaborado por un grupo de expertos de la compañía estadounidense ha sido publicado un mes después de que la compañía OpenAI anunciara la paralización de su nuevo modelo (Astra) tras concluir que alcanzaba un nivel «crítico» en ciberseguridad, que era capaz de identificar y desarrollar vulnerabilidades y planificar ciberataques de forma autónoma.
Los analistas de Google han concluido que los casos de uso de ‘agentes’ avanzados de IA ya no son experimentales y ya no se limitan únicamente a la detección de vulnerabilidades y han observado los múltiples incidentes que se han dirigido contra modelos y sistemas basados en IA en los sectores de tecnología, salud y medios y entretenimiento en América del Norte y Europa.
IA, multiplicador de fuerza de ataque
Para satisfacer su creciente demanda de acceso a la IA, los atacantes también están robando credenciales y comprando capacidades en la ‘red oscura’, señala el informe, señalando que algunos grupos criminales, principalmente de Rusia, China, Irán y Corea del Norte, están utilizando estas tecnologías para automatizar el robo de credenciales, crear códigos maliciosos y realizar espionaje industrial.
Los analistas han destacado la tendencia “preocupante” de comprometer la cadena de suministro de software, donde los delincuentes manipulan asistentes de programación y repositorios de código abierto, y además de explotar herramientas externas, roban propiedad intelectual de la IA y secuestran recursos de la nube para ejecutar sus propios modelos.
La investigación concluye que la inteligencia artificial se ha convertido en un multiplicador de fuerza que permite ejecutar ataques complejos en cuestión de pocas horas.
El trabajo cita numerosos ejemplos, incluido cómo el grupo de ciberespionaje vinculado a China Basin Castle está utilizando modelos de lenguaje para respaldar diversas tareas, desde investigar objetivos hasta resolver errores en medio de una intrusión, o cómo otro grupo chino intentó utilizar Gemini (el modelo de IA desarrollado por Google) para construir un marco de pruebas de penetración automatizado que ejecutaría las primeras fases de las intrusiones.
Los analistas también detectaron una campaña masiva de robo de credenciales orquestada por una «arquitectura multiagente» implementada en la infraestructura robada, y vieron cómo esta campaña logró escalar y comprometer de forma autónoma miles de credenciales en solo seis horas.
Otro grupo de ciberdelincuentes (TeamPCP) se ha centrado, por ejemplo, en la cadena de suministro de la IA, desplegando malware diseñado específicamente para explotar sistemas de inteligencia artificial emergentes, y ha logrado infectar y dañar algunas de esas herramientas e incluso engañar a sus asistentes para que recomienden sitios maliciosos a los desarrolladores.
Y otro grupo de informáticos (RPDC) vinculados a Corea del Norte fueron detectados cuando robaban cuentas de usuarios legítimos para conectar sus sistemas de forma masiva y automática a sistemas de inteligencia artificial, consiguiendo así multiplicar la velocidad y el alcance de sus ataques.
Ataques que pueden saturar la capacidad de respuesta y defensa
«En este punto, podemos asumir que todos los actores de amenazas están utilizando IA de una forma u otra y que sus operaciones se han beneficiado», dijo John Hultquist, analista jefe del Threat Intelligence Group (GTIG) de Google.
El experto multinacional ha corroborado su preocupación por las vulnerabilidades, pero ha subrayado que no es sólo un problema del sector tecnológico y que la IA se está aplicando en muchos otros ámbitos.
«El desafío será especialmente complejo al ejecutarse de forma autónoma, creando un adversario más rápido y de mayor escala; “Los ciberdelincuentes, como aquellos que llevaron a cabo una campaña masiva en sólo seis horas, se inclinarán por ataques que se ejecutan más rápido de lo que podemos responder”, describió Hultquist.
