Abierto AI reveló que algunos de sus modelos de Inteligencia Artificial más avanzados se salieron de control y Hackearon una startup luego de que perdieran el control sobre ellos durante una prueba de seguridad.
La empresa detrás ChatGPT explicó que su agente de IA:sistemas capaces de actuar de forma autónoma tras recibir instrucciones humanas—se estaba evaluando en un entorno controlado. Sin embargo, encontró vulnerabilidades de seguridad y logró escapar del entorno de prueba.
Los modelos apuntaban a abrazando la cara, uno de los mayores centros del mundo para compartir modelos de inteligencia artificial, y logró acceder a algunos sistemas internos de la empresa.
OpenAI calificó el incidente de «sin precedentes» y afirmó que estaba llevando a cabo una investigación junto con esta empresa. Por su parte, su director general, Clément Delangue, escribió en un post en X que era «sorprendente que todo esto sucediera de forma autónoma».
«La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo», añadió Delangue.
