Un equipo científico de Google DeepMind ha desarrollado una herramienta capaz de añadir marcas de agua a textos generados por grandes modelos lingüísticos, mejorando así su capacidad para identificar y rastrear contenidos creados artificialmente.
Los modelos de lenguaje grande (LLM) son un tipo de inteligencia artificial (IA) ampliamente utilizado que puede generar texto para chatbots, ayudas de escritura y otros fines. Sin embargo, puede resultar difícil identificar y atribuir el contenido producido por esta IA a una fuente específica, lo que pone en duda la fiabilidad de la información.
En imágenes, vídeos o audios es relativamente fácil insertar marcas de agua, pero en textos esto es un desafío: cualquier alteración en las palabras puede afectar el significado y la calidad del contenido.
Se ha propuesto la marca de agua como solución, pero no se ha implementado a gran escala.
Ahora, en un artículo publicado en la revista Nature, los investigadores de Google DeepMind, Sumanth Dathathri y Pushmeet Kohli, describen una estrategia que utiliza un novedoso algoritmo de muestreo para aplicar marcas de agua al texto generado por IA, conocido como SynthID-Text.
La herramienta utiliza este algoritmo «para sesgar sutilmente la elección de palabras del LLM, insertando una firma que pueda ser reconocida por el software de detección asociado», explican los investigadores.
La detectabilidad de estas marcas de agua se evaluó con varios modelos disponibles públicamente y SynthID-Text mostró una eficacia mejorada en comparación con los enfoques existentes, afirma un resumen de la revista.
Según los científicos, el uso de SynthID-Text también tiene un impacto insignificante en la potencia informática necesaria para ejecutar el LLM, lo que reduce la barrera para su implementación.
Los grandes modelos de lenguaje han permitido la generación de texto sintético de alta calidad, a menudo indistinguible del contenido escrito por humanos, a una escala que puede afectar notablemente la naturaleza del ecosistema de información, escriben los autores en su artículo.
La marca de agua puede ayudar a identificar texto sintético y limitar el uso indebido accidental o deliberado, añade el equipo de Google DeepMind. «Aquí describimos SynthID-Text, una estrategia de marca de agua que preserva la calidad del texto y permite una alta precisión de detección», dicen.
Una solución técnicamente robusta
Para Pablo Haya, del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid, el artículo presenta «una solución técnicamente robusta» para la identificación de texto generado por IA mediante marcas de agua.
Aquí la marca de agua consiste en alterar el algoritmo de generación de palabras para que sigan un patrón estadístico trazable sin modificar el significado, detalla Haya en un comentario a Science Media Center España, una plataforma de recursos científicos para periodistas.
Actualmente, los sistemas para detectar si un documento ha sido generado por IA tienen bajas tasas de éxito, por lo que las tecnologías que faciliten la identificación de la autoría son muy necesarias, afirma Haya, que no participa en el estudio.
«Además, estas técnicas están alineadas con las obligaciones de transparencia de la regulación de IA que requiere que los proveedores, en ciertos niveles de riesgo, garanticen que el contenido generado por IA sea identificable».
Sin embargo, añade, su adopción generalizada sigue siendo un desafío, principalmente porque este tipo de marca de agua es vulnerable a manipulaciones posteriores, como modificaciones del texto o el uso de técnicas de parafraseo, lo que reduce la eficacia de la marca a detectar.
