Dublín, Irlanda.- los agentes de Inteligencia artificial (IA) podría causar «incidentes graves» Dentro de uno o dos años si las empresas y los gobiernos no toman las medidas adecuadas para garantizar su seguridad, advirtió el miércoles en Dublín, Demis Hassabis, presidente de Google Deep Mind.
Los casos de pérdida de control de agentes autónomos de inteligencia artificial observados en los últimos meses «Son, en cierto modo, señales de advertencia». prevenido hassabis en una cumbre sobre inteligencia artificial en Dublín.
Según él, estos sistemas todavía tienen capacidades limitadas, por lo que los incidentes ocurridos hasta el momento no han sido graves en su opinión.
Preocupación por la seguridad de Iowa se ha disparado después de los modelos desarrollados por OpenAI y Antrópico estuvieron involucrados en incidentes de seguridad durante las pruebas, lo que ha aumentado la presión para regular esta tecnología.
hassabis afirmó que probablemente los nuevos modelos de Iowa debe probarse primero en entornos aislados fuera de línea, conocidos como «cajas de arena«, después de que modelos de otras empresas consiguieran escapar precisamente de los entornos cerrados utilizados para evaluar sus capacidades.
Henna Virkkunen, vicepresidente ejecutivo de la Comisión Europea, responsable de Soberanía Tecnológica, Seguridad y Democracia, afirmó que las empresas Iowa Tuvieron que dedicar más tiempo a probar sus sistemas para mantener el control sobre ellos.
«La competencia global es tan intensa que parece que ninguna de las empresas está invirtiendo suficiente tiempo y recursos en probar sus modelos». declarado Tejer a los periodistas a su llegada a la cumbre Dublín.
«Deben poder controlar estos sistemas», afirmó, añadiendo que el unión Europea ha enviado solicitudes de información a todas las principales empresas de Iowa preguntarles qué medidas de seguridad y protección tienen implementadas.
El Comisión Europea obtuvo nuevos poderes regulatorios en agosto bajo el Ley de IAla regulación más ambiciosa del mundo para limitar los usos potencialmente peligrosos de esta tecnología.
