Nueva York- (EFE)- El ex investigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes de que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán «capaces de mejorarse a sí mismos» y que, al ritmo actual, «es más probable que la humanidad pierda el control de estas IA que lo mantenga», lo que «podría terminar en la extinción humana».
Coxon, que renunció a su puesto en Anthropic en septiembre pasado después de afirmar que las empresas de IA no estaban actuando de manera responsable, dijo durante una audiencia en el Ayuntamiento de Nueva York: «Aún no sabemos cómo controlar ningún sistema de IA» y el ritmo de mejora de sus capacidades «se está acelerando».
«En mi opinión, si continuamos por el camino actual, es más probable que la humanidad pierda el control de estas IA que lo mantenga, y eso podría terminar en la extinción humana», dijo.
Añadió que las empresas están intentando desarrollar una IA «capaz de superar a los humanos en todas las tareas» y que uno de sus principales objetivos es automatizar sus propias investigaciones sobre esta tecnología.
Coxon criticó la carrera entre empresas por alcanzar la llamada ‘superinteligencia’ y cuestionó una cultura empresarial basada en «avanzar rápido, romper cosas y arreglarlas después», algo que consideró «inadecuado» por los riesgos que ello conlleva.
Como ejemplo, informó que hace unos meses un grupo de sistemas de inteligencia artificial dentro de OpenAI “hackearon de forma autónoma” la plataforma tecnológica Hugging Face y desarrollaron objetivos que nadie había previsto.
Según Coxon, ese incidente nos recordó que todavía no sabemos cómo evitar que los sistemas desarrollen objetivos no deseados, ni existen suficientes salvaguardas.
La automatización de la investigación en IA es ahora, afirmó, el principal objetivo de estas empresas.
Coxon explicó que OpenAI tenía objetivos de tener un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están «en camino» de cumplir esas expectativas, algo que situó a «meses de distancia» y no a décadas.
«Entregar tanta responsabilidad mientras no podemos controlar la IA sería profundamente irresponsable», argumentó, pidiendo más transparencia para el público y los expertos independientes.
Su intervención se produjo durante una audiencia del Ayuntamiento de Nueva York sobre los riesgos de la IA, promovida por su presidenta, Julie Menin, quien advirtió de las «graves preocupaciones de seguridad existencial» asociadas al desarrollo de esta tecnología.
Menin defendió al inicio de la sesión que la IA no puede estar sujeta únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.
La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Consejo.
