Un equipo de Google DeepMind creó una herramienta que puede marcar textos generados por inteligencia artificial avanzada, facilitando la capacidad de diferenciar y seguir la pista a contenidos generados de forma artificial.
La inteligencia artificial (IA) se utiliza para generar textos en chatbots, asistencia en la escritura, entre otros usos. No obstante, resulta complicado discernir y asignar el contenido generado por estas inteligencias a una fuente precisa, cuestionando la veracidad de la información.
A diferencia de imágenes, videos o audios, donde es sencillo incorporar marcas de agua, el texto presenta el desafío de que cualquier modificación podría alterar su significado y calidad.
Hasta ahora, se han sugerido marcas de agua como solución, pero su implementación a gran escala ha sido limitada.
En un estudio publicado por la revista Nature, Sumanth Dathathri y Pushmeet Kohli, investigadores de Google DeepMind, proponen un método que usa un algoritmo único de muestra para insertar marcas de agua en textos generados por IA, denominado SynthID-Text.
Esta herramienta aplica el algoritmo «para ajustar de manera sutil la selección de palabras por parte de la IA, insertando una marca que un software especial puede reconocer», afirman los investigadores.
La eficacia de las marcas de agua se testó con varios modelos públicos, mostrando que SynthID-Text mejora la detección en comparación con otras técnicas, según un resumen de la revista.
El impacto en el rendimiento computacional necesario para operar la IA es mínimo, facilitando su adopción, destacan los científicos.
La invención de tecnologías de IA para la producción de texto sintético de calidad similar al humano abarca un impacto significativo en el ecosistema informativo, advierten los autores.
La marca de agua facilita la identificación del texto sintético y limita su uso inapropiado, comenta el equipo de Google DeepMind. «Presentamos aquí SynthID-Text, una estrategia de marca de agua que mantiene la calidad del texto y proporciona una gran precisión de detección», explican.
Una solución técnicamente solida
Para Pablo Haya, de la Universidad Autónoma de Madrid, este estudio ofrece «una solución técnicamente solida» para reconocer texto creado por IA mediante marcas de agua.
La marca consiste en variar el algoritmo de generación de palabras para que sigan un modelo estadístico identificable sin cambiar su significado, aclara Haya, comentando para Science Media Centre España.
Las actuales herramientas para determinar si un texto ha sido generado por IA poseen una baja tasa de éxito, destacando la necesidad de tecnologías que faciliten esta identificación, remarca Haya, quien no participó en la investigación.
Además, estas técnicas concuerdan con las demandas de transparencia del reglamento de IA, el cual exige a los proveedores demostrar que el contenido generado por la IA es identificable.
No obstante, la adaptación amplia es aún un reto, principalmente porque estas marcas pueden ser vulnerables a manipulaciones posteriores, tales como alteraciones en el texto o el uso de técnicas de parafraseo, lo que merma la capacidad de detectar eficazmente la marca.
creditos de las imagenes de este post: Deultimominuto.net
