El catedrático vigués Fernando Pérez, único representante de la academia española en el grupo de trabajo del código europeo contra los «deepfakes»

La Ley de IA europea establece en su artículo 50 la creación de mecanismos que garanticen la transparencia y la trazabilidad de los contenidos generados o manipulados artificialmente para reducir el riesgo de engaño y manipulación de los ciudadanos. Y la Comisión ha confiado su desarrollo en un grupo de trabajo del que forman parte empresas, instituciones públicas, organizaciones sin ánimo de lucro y expertos independientes y en el que el catedrático de la UVigo e investigador de atlanTTic Fernando Pérez es el único representante de la academia española. Han elaborado un código de buenas prácticas que será aprobado de forma definitiva el 2 de agosto y todas las compañías que operen en la UE deberán adaptar sus sistemas a estos estándares técnicos antes de su entrada en vigor en 2027.

«Se plantea una solución que, sin ser absolutamente robusta, todos entendemos que es necesaria y que va a mejorar la capacidad que tenemos como ciudadanos de saber si una imagen o un vídeo son o no generados. Hemos llegado a un acuerdo en el que todos estamos satisfechos, pero queda un cierto sabor agridulce porque se podría haber ido más allá. En el grupo de trabajo han estado las grandes compañías como Google, Apple, Meta o Adobe. Muchas de ellas ya tienen sus propias soluciones y mi impresión es que buena parte de su empeño era validarlas y no tener que implementar nada más. En todo caso, el código constituye una buena noticia en dos planos. Primero, porque Europa está marcando el paso en este ámbito y, segundo, porque a los ciudadanos nos va a resolver un problema que ya tenemos dándonos herramientas para verificar si una imagen es real o no», reflexiona.

El grupo de trabajo se dividió en dos equipos complementarios. Uno más enfocado a cómo debe ser la tecnología para garantizar esa transparencia y trazabilidad y del que formó parte el experto vigués junto a plataformas o empresas (proveedores) que tienen sus propios modelos de IA generativa como Google (Nano Banana). Y el otro más relacionado con la forma de etiquetar y advertir a los ciudadanos de que los contenidos a los que están accediendo, por ejemplo, en redes sociales, son o no reales.

El código combina «varias capas tecnológicas redundantes y complementarias». La primera es la integración de metadatos firmados digitalmente y el documento establece que los proveedores deben incrustar información criptográfica con un sello temporal que certifique si el contenido ha sido generado o manipulado por una IA.

La segunda es la inserción de marcas de agua digitales y el código hace especial hincapié en que sean imperceptibles para el ojo humano con el fin de evitar que se puedan eliminar. Su presencia tendrá que ser verificada por un elemento de software denominado detector.

Fernando Pérez empezó a trabajar en el campo de las marcas de agua hace 30 años, pero para tratar de evitar la copia de DVDs. «Ha tenido aplicaciones comerciales hasta la actualidad, por ejemplo, en la distribución de partidos de fútbol por internet. Pero a finales de los 2000 parecía que esta tecnología ya no daba más de sí a nivel de investigación y nos fuimos moviendo a terrenos colindantes. En el caso de nuestro grupo empezamos a trabajar en el análisis forense de imágenes, que obviamente también está muy relacionado. La irrupción de la IA la ha vuelto a poner de actualidad para la resolución de nuevos problemas», comenta.

«Uno de los problemas que se planteó es que si cada empresa tiene su marca de agua el usuario tendría que comprobar si una imagen es sintética o real en cada uno de sus servidores. Esto no es práctico. Por eso se contempla una marca más general que tiene información oculta especificando, por ejemplo, que la que tienes que verificar es la de Google en lugar de ir buscando tú con los diferentes detectores. Pero no se llegó a una marca de agua universal, se entendió que no era factible porque cada empresa ha desarrollado sus propias soluciones», apunta.

En relación a esta mayor ambición de los expertos, el código incluye otra barrera que no es obligatoria, solo recomendable, y que consiste en el uso de detectores forenses, un ámbito en el que trabaja el grupo de Procesado de Señal en Comunicaciones que dirige Fernando Pérez. «Ha estado muy bien que la Comisión Europea haya contado con nosotros, no hay ningún otro grupo de la universidad española, pero nos hubiese gustado llegar más lejos e incluir esta tecnología como parte de la solución oficial. Permite detectar si un contenido es sintético o no, independientemente de que lleve marca de agua o no, porque identifica huellas que los generadores basados en IA dejan involuntariamente en los contenidos multimedia. Es una pena. Desde la academia nuestra posición es más neutral que la de alguien que tiene intereses académicos y es complejo conjugarlo todo», admite.

Tras la aprobación del documento final, la Comisión creará otro grupo de trabajo para definir las tecnologías que conforman las diferentes capas y seguramente se tendrán que ir realizando revisiones. Uno de los desafíos a tener en cuenta que plantea Fernando Pérez es el de la privacidad: «Si la imagen que quiero verificar es privada o incluye datos privados puede que no me apetezca subirla a un servidor. Incluso podría haber problemas con la ley de protección de datos. Pero hay técnicas con las que nosotros trabajamos que permiten procesar datos cifrados y que quizá se podrían aplicar aquí. Sería un reto tecnológico muy interesante».

El investigador sostiene que la sociedad ya es consciente de que los contenidos que le llegan a sus dispositivos pueden ser falsos, pero necesita herramientas. «Cuando la gente veía un cuadro de una batalla en el siglo XVIII no se le ocurría pensar que aquello era real. Con la fotografía ya no pasaba esto, pero ahora no podemos ver algo de la misma manera que hace 20 años. Incluso para nosotros, que tenemos el ojo entrenado, cada vez nos resulta más difícil. Y hay un riesgo sobre el que también hay que educar al público, el de la sobreconfianza. Hay una probabilidad de que el detector falle e identifique como sintética una imagen que es real. Y, en determinados contextos, como el sistema biométrico de un banco, hay que buscar fórmulas para superar esto».

Suscríbete para seguir leyendo