Alguna vez una ambición lejana para los investigadores tecnológicos, la perspectiva de que inteligencia artificial aprender de forma autónoma a ser más eficientes y capaces parece cada vez más cercano a la realidad.
A medida que avanza la tecnología, los desarrolladores dicen que se está acercando a «superación personal recursiva», o RSI, en el que los modelos de IA encuentran formas de mejorarse y construir su sucesor. Podría traer la promesa de avances en la ciencia y la medicinadicen ejecutivos de empresas de tecnología, pero también riesgos.
La incertidumbre sobre adónde podría llevar todo esto está en el centro de los crecientes temores de que La IA evade el control humano y las posibles amenazas a la humanidadlo que llevó a varios magnates de la IA a unirse el fin de semana pasado en una convocatoria para ralentizar el ritmo del crecimiento tecnológico.
Esta semana, Anthropic detalló cómo su modelo Claude está ayudando a la empresa a desarrollar la próxima versión más inteligente de sí misma. Claude lidera ahora el 26% de la investigación. y el desarrollo de modelos antrópicos, que según la compañía significa que puede completar la mayor parte de una tarea «de principio a fin desde un mensaje de alto nivel» y aún estar bajo supervisión humana. Los modelos no funcionan de forma completamente autónoma, al menos no todavía.
A continuación se presentan algunos puntos clave sobre la superación personal recursiva.
¿Qué es la superación recursiva?
Las principales empresas de inteligencia artificial tienen diferentes definiciones de superación personal recursiva. Algunos lo definen como cuando hay alguna retroalimentación de la IA sobre la mejora del modelo, mientras que otros lo definen como la IA trabajando hacia ese objetivo de forma completamente autónoma.
La superación personal autónoma y recursiva significa esencialmente IA que puede mejorarse a sí misma diseñando la siguiente versión del sistema, luego la siguiente, y así sucesivamente, dijo Anthony Aguirre, presidente y director ejecutivo de la organización sin fines de lucro Future of Life Institute y profesor de física en la Universidad de California, Santa Cruz.
«Lo realmente importante aquí es que a medida que la IA hace más, se vuelve más rápida, porque la IA opera mucho, mucho más rápido que los humanos», dijo.
El miedo en torno a la RSI se basa en gran medida en la superinteligencia incontrolada que surge de ese proceso, dijo John Thickstun, profesor asociado de ciencias de la computación en la Universidad de Cornell que estudia métodos que controlan el comportamiento de los modelos de IA. Pero dijo que una visión más realista sugiere que desde hace algún tiempo se está produciendo una especie de superación personal recursiva en el desarrollo de la IA.
«Hemos estado usando estos modelos durante años en funciones de apoyo para crear la próxima versión de estos modelos. Por eso, la gente usa la generación pasada de modelos para escribir código para sistemas de inteligencia artificial que luego crean la próxima generación», explicó.
Durante años, destacados investigadores de IA como Andrej Karpathy, cofundador de OpenAI, han experimentado intentando conseguir modelos de IA para entrenar y mejorar nuevos sistemas de IA. Esos esfuerzos han aportado pequeñas mejoras, pero no grandes avances creativos, afirmó Thickstun.
Pero las empresas de IA de hoy, dijo Aguirre, están mucho más cerca de lograr esos mayores avances en la mejora.
«Se puede ver en estos gráficos antrópicos a lo largo del tiempo que cada vez se realizan más investigaciones con IA y que se está acercando cada vez más a ser completamente autónoma», dijo. «Y el resultado de ese éxito, en última instancia, es algo que, creo, es extremadamente aterrador. Creo que esta es probablemente la peor idea en la historia de la humanidad para hacer esto. Y sí, lo están haciendo».
Algunos laboratorios de IA dicen que LER no está tan lejos
El reciente anuncio de Anthropic brindó al público (y a otros laboratorios) una idea del progreso del RSI y alentó a sus competidores a compartir métricas similares. Aún así, la compañía no ha dicho expresamente qué tan cerca está de lograr una actualización totalmente autónoma del modelo.
El creador de ChatGPT, OpenAI, anunció este mes que ha desarrollado un «investigador» automatizado, que define como un sistema capaz de realizar tareas de investigación bien definidas bajo dirección humana, incluidas «tareas que a un investigador calificado le llevarían unos días». La compañía ha anunciado que está avanzando con el objetivo de crear un «investigador» automatizado de IA para marzo de 2028.
La compañía dijo en ese anuncio que, si bien el RSI puede ayudar a alinear las acciones de los modelos con los valores e intenciones humanos, eso no significa que «el RSI rápido sea necesariamente un resultado que debamos perseguir».
«Si procedemos y cómo deberíamos depender de nuestra capacidad para preservar el control humano y las decisiones democráticas informadas sobre beneficios y riesgos», dijo la compañía en una publicación de blog.
Elon Musk parece más dispuesto a seguir adelante. En marzo dijo que para los modelos Grok de xAI, «los humanos están cada vez menos informados» sobre la mejora del modelo y que «cada modelo sucesivo se basa en el anterior», pero aclaró que el proceso aún no está completamente automatizado. Ese objetivo podría alcanzarse antes de finales de este año, añadió, «pero no más tarde» de 2027.
Microsoft y otras empresas líderes en inteligencia artificial parecen estar adoptando un enfoque diferente.
Mustafa Suleyman, director ejecutivo de Microsoft AI, ha dicho que la compañía está avanzando hacia una «superinteligencia humanista» o capacidades avanzadas de IA al servicio de las personas y la humanidad en general. Suleyman dijo en un ensayo de 2025 que esto no significaría «una entidad ilimitada y sin límites con altos grados de autonomía», sino más bien una IA que esté «cuidadosamente calibrada, contextualizada y dentro de límites».
Cómo las negociaciones para frenar el desarrollo podrían afectar al RSI
Un desafío clave que enfrentan los laboratorios (y esencialmente han estado enfrentando desde el inicio de la tecnología) es garantizar que sus medidas de seguridad avancen junto con las capacidades de los modelos.
Han surgido divisiones en la industria tecnológica por los llamados a una desaceleración coordinada de la IA para garantizar la seguridad, y no todos los grandes actores del sector de la IA han comentado específicamente sobre su camino con RSI.
Anthropic, que ha sido una voz líder en las demandas de ritmo, ha dicho que ralentizaría o pausaría temporalmente su trabajo de desarrollo, asumiendo que sus competidores globales también lo harían, y de una «manera verificable».
OpenAI declaró explícitamente este mes que aún no sabe cómo «llegar de manera segura a un RSI completo y alineado», y agregó que la compañía «no puede asumir que el progreso en alineación y seguridad seguirá el ritmo». Continuó con sistemas más capaces que son más difíciles de monitorear, pero perseguir RSI sigue siendo un objetivo que dice valorar porque un «investigador de IA automatizado también puede ser un investigador automatizado de seguridad o alineación».
