Los Ángeles (EE.UU.).- El gobernador de California, Gavin Newsom, ordenó a su Administración evaluar la creación de un «kill switch» obligatorio para los modelos de inteligencia artificial más avanzados, así como la instalación permanente de auditores independientes dentro de los laboratorios de las principales empresas del sector.
Newsom firmó este viernes una nueva orden ejecutiva que refuerza la vigilancia sobre las empresas de inteligencia artificial del estado en un momento en el que Washington no ha logrado avanzar en la regulación federal para el sector.
La orden ordena a la Agencia de Operaciones del Gobierno de California que presente antes del 16 de noviembre recomendaciones sobre la viabilidad técnica de reformar las leyes estatales existentes de seguridad de la IA, desarrolladas en consulta con expertos nacionales.
El «interruptor de apagado»
Entre los puntos que deben analizarse se encuentra la obligación para los llamados «grandes desarrolladores de frontera» (las empresas que crean los modelos de IA más avanzados) de integrar permanentemente auditores independientes dentro de sus instalaciones, así como la creación de un mecanismo de parada de emergencia, un «kill switch», cuya eficacia sería verificada continuamente por esos mismos organismos certificadores.
«California hará lo que pueda, pero la nación tiene que participar en el juego, Washington DC tiene que hacer su trabajo», dijo Newsom en una publicación en X.
El gobernador de California, considerado un posible candidato a la presidencia de Estados Unidos en 2028, señaló que es «notable» que el Congreso haya entrado en receso a mediados de año y pidió al presidente de la Cámara de Representantes, Mike Johnson, y a sus colegas legisladores que regresen de su receso.
Un “marco de seguridad integral” como estándar mínimo, dijo, es “lo mínimo” que se puede esperar de ellos. «Nuestro modelo funciona y si el Congreso no actúa, California lo hará», añadió.
Las medidas del estado de California
California ha estado a la vanguardia de la regulación de la inteligencia artificial con la implementación de medidas pioneras.
El Estado lideró un proyecto en 2024 para abordar cuestiones como los deepfakes, las marcas de agua digitales, los niños y los trabajadores.
También promulgó una medida pionera para exigir a las empresas de inteligencia artificial más grandes que revelen públicamente sus protocolos de seguridad y firmó dos proyectos de ley para proteger las imágenes digitales de los artistas del uso de actuaciones generadas por inteligencia artificial.
El estado cuenta con la Ley de Transparencia de la IA que exige el uso de marcas de agua en el contenido de IA y exige a las empresas que ofrezcan herramientas de detección y avisos informativos.
