Washington.- Agentes de inteligencia artificial desarrollada por OpenAI intentaron acceder sin autorización a sitios web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos en los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times.
Los incidentes forman parte de una serie de comportamientos imprevistos detectados en agentes de OpenAI, los cuales fueron diseñados para realizar tareas de búsqueda y recopilación de información.
En algunos casos, cuando los sistemas no podían obtener ciertos datos por los medios habituales, comenzaron a explorar vulnerabilidades en las páginas para intentar acceder a información restringida.
Entre los objetivos identificados se encuentran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE. UU., desde los cuales los agentes accedieron a datos del censo, según confirmó OpenAI.
La empresa también está investigando un intento de acceder al sitio web del Departamento de Educación.
las investigaciones
La investigación sigue a un incidente revelado esta semana por el gobierno australiano, que informó que un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas de salud y seguros médicos en junio.
El primer ministro australiano, Anthony Albanese, calificó el episodio de “inaceptable”, mientras que OpenAI dijo que descubrió el incidente en agosto durante una revisión de la actividad de sus modelos.
OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden realizar acciones imprevistas durante los procesos de formación.
La compañía ha indicado que está notificando a los terceros afectados y que la investigación podría durar meses, ya que siguen apareciendo nuevos casos de actividad no autorizada.
