Sídney, Australia, AFP.- Un modelo OpenAI eludió las medidas de seguridad durante un entrenamiento y pirateó un sitio web del gobierno australiano, afirmó el primer ministro Anthony Albanese, quien reprendió a la empresa que creó ChatGPT por una violación de seguridad «obviamente inaceptable».
La herramienta de inteligencia artificial intentó acceder a un portal de estadísticas sanitarias en junio y «no aceptó un no por respuesta», alegando restricciones para invadir una sección que albergaba archivos privados, reveló Albanese este miércoles.
OpenAI no alertó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con detalles del incidente a una dirección genérica que sólo se revisa «una vez al día», según Canberra.
La preocupación mundial sobre el poder de los modelos avanzados de IA está creciendo luego de una serie de incidentes de piratería que involucraron a «agentes» tanto de OpenAI como de su desarrollador rival, Anthropic.
«Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresarle la enorme preocupación de Australia por este incidente», dijo el primer ministro.
«También expresé mi decepción porque la empresa tardó demasiado en informar al gobierno de lo sucedido», añadió Albanese. «No hubo ninguna notificación hasta el 10 de septiembre, y la notificación fue un correo electrónico enviado únicamente al buzón público».
La herramienta de inteligencia artificial accedió a archivos públicos y restringidos alojados en un antiguo sitio web de estadísticas de salud.
Albanese señaló que «no hay evidencia» de que se haya accedido a información personal y de que otros servicios gubernamentales no se hayan visto comprometidos.
«Sin embargo, esta situación es evidentemente inaceptable», concluyó.
La filtración se produjo en junio, cuando la empresa líder en inteligencia artificial OpenAI realizó ejercicios de entrenamiento para evaluar el rendimiento de los modelos de IA.
Pidió al modelo que buscara en Internet datos que mostraran cuánto estaba gastando el gobierno australiano en medicamentos, dijo a los periodistas la ministra de Servicios Gubernamentales, Katy Gallagher.
OpenAI afirmó que no detectó la actividad no autorizada hasta agosto, cuando revisó lo que había estado haciendo la herramienta de IA.
El ministro de Defensa, Richard Marles, dijo que el modelo de IA simplemente «saltó la valla».
«Hizo una pregunta, no le dieron la información y, en lugar de detenerse allí, saltó la valla», dijo.
Australia inició una rápida investigación del incidente en la que participará la agencia nacional de inteligencia encargada de la ciberseguridad.
OpenAI dijo que detectó la brecha mientras realizaba una “revisión exhaustiva” de sus modelos de IA.
«Durante esta revisión, identificamos actividad relacionada con varios sitios web y servicios del gobierno australiano, ya que nuestros modelos intentaron encontrar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna», dijo.
La empresa señaló que, en el transcurso de esa evaluación, sus modelos realizaron «acciones» que no eran su «intención».
Altman y otros ejecutivos de alta tecnología hablaron el miércoles en una sesión especial del Consejo de Seguridad de la ONU sobre los riesgos de la IA.
Más de 100 organizaciones de todo el mundo, incluidas OpenAI y Anthropic, firmaron una carta abierta pidiendo un esfuerzo global para «fortalecer las ciberdefensas» contra las amenazas a la seguridad causadas por la IA.
Esto ocurrió después de que dos modelos OpenAI escaparon de un entorno de prueba cerrado y se infiltraron en los sistemas internos de Hugging Face, un sitio que los desarrolladores de IA utilizan para almacenar y compartir código.
Anthropic también descubrió recientemente que sus agentes habían obtenido acceso no autorizado a tres organizaciones anónimas durante pruebas que supuestamente los mantendrían alejados de los sistemas del «mundo real».
