Washington.- Actores vinculados al Gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia, como la planificación de posibles ataques contra objetivos estadounidenses y propaganda, según un informe publicado este jueves por la empresa estadounidense Anthropic, que documentó varios usos indebidos de sus modelos por parte de actores estatales durante los últimos ocho meses.
La compañía señaló, en un informe de 154 páginas, que estas herramientas pueden ayudar a identificar objetivos y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos, permitiendo a los gobiernos hacer más eficientes los sistemas de vigilancia que ya existen.
En el caso iraní, los usuarios también recurrieron a mecanismos para eludir las restricciones de acceso a Claude, que no está disponible oficialmente en el país, y utilizaron redes privadas virtuales y números de teléfono extranjeros para acceder al servicio.
Según Anthropic, un grupo cibercriminal vinculado a Irán utilizó la cuenta de Claude para desarrollar recomendaciones de ataques contra las fuerzas navales estadounidenses en la región.
Mal uso de la plataforma
La compañía también documentó en su informe otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.
Anthropic dijo que bloqueó esos usos por el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no pudo determinar si la investigación tenía fines legítimos o maliciosos.
«Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad alguna vez se utilice para desarrollar armas biológicas en el mundo real», explicó la compañía.
Anthropic advirtió que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que antes requerían mayores conocimientos y recursos.
Este informe surge en medio de la creciente preocupación de los expertos del sector tecnológico por el doble uso de la IA, ya que modelos capaces de ayudar en la investigación biológica también pueden utilizarse para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
