Las herramientas de watermarking están surgiendo debido a los problemas de entrenar a los modelos de IA con imágenes de artistas sin autorización y que éstas se utilicen para generar ilustraciones que imiten su estilo.
¿Qué es una marca de agua (watermarking)?
La marca de agua de la Inteligencia Artificial (IA) consiste en agregar una señal especial y única al resultado de un modelo de IA, como un texto o una imagen, con el fin de reconocer que ese contenido fue creado por una IA.
Esta señal, llamada marca de agua, puede ser identificada por algoritmos diseñados para buscarla.
La polémica se desata con la publicación de la imagen del Papa vestido con un abrigo de Balenciaga
Enlace de la noticia: https://computerhoy.com/tecnologia/imagen-viral-papa-balenciaga-hace-nuevo-saltar-alarmas-torno-copyright-ia-1250380
A pesar de que la imagen era falsa, se volvió viral. La confusión fue tal, que muchas personas llegaron a creer que esa fotografía era auténtica.
Cuando se habla de poner una marca de agua en la IA, nos referimos a una especie de señal o identificación única que se coloca en el contenido que la IA genera.
En este proceso, hay dos fases importantes:
Primera fase: durante el entrenamiento de la IA, se le enseña a agregar esa señal o marca de agua a las cosas que crea. Es como si la IA aprendiera a poner su firma en todo lo que hace.
Segunda fase: cuando la IA crea algo nuevo y verifica si esa «firma» o «marca de agua» está presente. Si la encuentra, sabe que fue ella misma quien lo hizo. Si no está, puede significar que alguien más lo creó o que no está segura al 100% de su origen.
Beneficios del uso de herramientas de marca de agua
— Preservar los derechos de propiedad intelectual.
— Defensa de la autoría original.
— Evitar la desinformación o el engaño.
— Favorecer la transparencia en las comunicaciones.
— Establecer la autenticidad de la información compartida.
Cómo funcionan las herramientas de watermarking
- Herramientas que insertan «una marca de agua invisible» en las imágenes para que los modelos de IA las ignoren y no las utilicen sin permiso.
- Herramientas que insertan «ruido» en las imágenes para confundir a la IA, interfiriendo con su capacidad para utilizar esas imágenes en sus bases de datos sin permiso.
Listado de herramientas watermarking
NIGHTSHADE (primera fase)
GLAZE (segunda fase)
NoAI (AI Watermark Generator)
SANATIVE (Protect your images from AI)
— Watermarker: marca de agua invisible de ArtShield que se aplica a imágenes para ayudar a camuflarlas contra los robots rastreadores de IA.
— Sweeper: escanea las principales bases de datos de IA para comprobar si se han usado imágenes propias y evitar que sean utilizadas por herramientas de IA.
¿Son la solución las marcas de agua anti-IA?
Estas técnicas se diseñan para proteger el contenido contra su uso no autorizado o la manipulación. Su principal propósito es verificar la autenticidad o procedencia de la información que manejamos a menudo.
Sin embargo, a medida que los modelos de IA evolucionen y se vuelvan más sofisticados, las marcas de agua actuales no funcionarán.
Al igual que sucedió con los anti-virus, será fundamental actualizar constantemente estas herramientas para proteger «esa autoría».
Veremos cómo reacciona el mercado a estas soluciones y si se empiezan a crear organismos verificadores o empresas con sellos oficiales para detectar el contenido creado con IA y sin IA.
Para seguir la actualidad de las noticias más interesantes sobre robótica colaborativa e inteligencia artificial, no dudes en visitar nuestras Últimas noticias.
