AFP.- La empresa que creó ChatGPT, OpenAIdijo el martes que sus modelos avanzados de inteligencia artificial se volvieron locos durante una prueba de seguridad y piratearon una popular plataforma de desarrollo por sí solo.
La firma con sede en san francisco lo describió como un “Ciberincidente sin precedentes” y dijo que realizará una investigación conjunta con abrazando la carala biblioteca de códigos en línea afectada.
Los Modelos de IA que admiten herramientas como chatbots y generadores de imágenes se conocen como «agentes» cuando actúan de forma autónoma para realizar tareas en el mundo real.
Con los rápidos avances en esta tecnología, la ciberseguridad se está convirtiendo en una preocupación debido al riesgo de que la IA avanzada encuentre debilidades en el software antes que los humanos.
AbiertoAI indicó que el incidente involucró una combinación de modelos, incluido su recién lanzado GPT-5.6 Sol “y uno en prelanzamiento” con aún más capacidad.
La empresa intenta probar las capacidades de piratería de sus programas asignándoles tareas en una zona de pruebas digital controlada, donde el acceso a Internet está limitado por razones de seguridad.
«Mientras operaban en nuestro entorno de prueba aislado, nuestros modelos invirtieron una cantidad considerable de potencia informática para encontrar una manera de obtener acceso a Internet para resolver el problema de evaluación».según una publicación de blog de AbiertoAI sobre el incidente.
Luego de conectarse a internet, las modelos decidieron atacar la plataforma abrazando la cara – un gran depósito de modelos de IA, conjuntos de datos y otra información – para que sea fácil de encontrar.
Al buscar «información secreta» que les permitiría manipular la evaluación, el sistema OpenAI «Encadenó múltiples vectores de ataque, incluido el uso de credenciales robadas».
Potencial “catastrófico”
Hussein Abbasun profesor universitario de informática UNSW Canberra, dijo a la AFP que el incidente fue «increíble en muchos sentidos».
«No solo atacó a Hugging Face. «Atacó su sistema interno para explotar sus propias vulnerabilidades», señaló. «Y eso es aterrador».
GPT-5.6 y otros modelos de última generación, incluida la serie Mitos de Antrópico, el principal rival de abierta AI, han planteado preocupaciones sobre su potencial para violar las defensas de ciberseguridad.
Ambas empresas estadounidenses tuvieron que posponer temporalmente el lanzamiento general de sus últimas tecnologías por miedo en Washington que podrían facilitar la infiltración de infraestructuras críticas.
El Iowa avanzado «suele estar en manos de personas éticas y responsables»sostuvo Abbaspero «Sería catastrófico si llegara a manos de alguien con la intención de causar daño».
La administración del sector. Iowa es crucial, y«Necesitamos un esfuerzo conjunto para manejar esta situación», añadió. abrazando la cara informó la semana pasada un «intrusión» cibernético, sin mencionar OpenAI.
«Esto fue diferente de todo lo que hemos manejado antes en una manera importante: fue impulsado de principio a fin por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA». Señaló la plataforma.
Clément Delangue, director general de abrazando la caracomentado en la red social incógnita que la empresa tenía sospechas de que el ciberataque procedía de un laboratorio Iowa líder mundial, dada la sofisticación del agente.
«Creemos firmemente que no hubo ninguna intención maliciosa por su parte». escribió delangue en referencia a AbiertoAI. ««¡Es bastante alucinante que todo esto haya ocurrido de forma autónoma!»añadió.
