- Aumenta la complejidad de discernir entre imagénes reales, falsas o manipuladas
- Las herramientas incluyen más comprobaciones pero, insuficientes
- El criterio periodístico sobre la autenticidad se torna imprescindible
El laberinto de la verificación de las fotografías nos deja hoy, un sabor entre dulce y amargo. Tenemos antecedentes cercanos de imágenes creadas por la inteligencia artificial generativa como la foto del Papa con el abrigo blanco o la detención policial de Donald Trump.
Nos hemos creído la foto de la iglesia, del político y, ahora también, de la monarquía con la imagen manipulada de la Princesa de Gales, Kate Middleton. Ya nadie queda exento del juego de las 7 diferencias.
Eso de debe a que el principal problema actual es la manipulación parcial de imágenes reales ya que las herramientas anteriores no sirven para detectar este tipo de contenidos. Las aplicaciones disponibles ofrecen resultados que muchas veces, como periodistas, no saben interpretar. Además, les preocupa que una herramienta pueda ofrecer un resultado sesgado al detectar edición por simplemente haber mejorado la iluminación o el contorno, ya que eso no implica necesariamente que ese contenido se haya manipulado.
¿Hasta qué punto podéis seleccionar una parte de la imagen para solo analizarla en parte ?
Podemos hacerlo con imágenes fijas fácilmente. Otra cosa es que, al haber realizado cambios, el contenido pudiera perder calidad y que a la herramienta le cueste más detectar la manipulación. Es más complicado si tenemos que hacerlo con vídeos, pues tendríamos que ir cortando más de un fotograma para estar más seguros de los resultados
Middleton y las pruebas
La polémica más reciente tiene rostro de mujer. Hablamos de la primera imagen oficial de la Princesa de Gales, Kate Middleton, con sus tres hijos difundida, en el Día de la Madre en el Reino Unido, por el Palacio de Kensington. La manipulación de la foto alimentó centenares de teorías de la conspiración hasta el punto que ella misma admitió que la manipuló y las agencias de comunicación más importantes del mundo (AP, Reuters, Agence France Press y Getty) la retiraron de sus servidores.
¿Había que retirarla o con advertir que era una imagen alterada hubiera sido suficiente? Sea como fuere, el debate que nos atañe es otro: la multidimensionalidad de la verificación de imágenes creadas con IA versus las imágenes retocadas en editores de fotografía.
Verifica RTVE
En primer lugar, hay que aclarar si cuando hablamos de “detección de fakes” nos referimos a contenidos generados con inteligencia artificial, a partir de texto y que no parten de una imagen real. En este caso, el problema que se encuentran los compañeros de Verifica RTVE es que las herramientas de detección aportan un % de fiabilidad, lo que es muy útil, pero, aseguran «echamos de menos una interpretación, un pequeño análisis o, al menos, saber qué criterios sigue la herramienta a la hora de ofrecer sus porcentajes».
El equipo usa unas herramientas «aunque no sean definitivas», como Hive, AI Or Not y InVid. Según nos explica la periodista, Blanca Bayo, «en ocasiones sabemos que algunos contenidos están generados con IA y las herramientas no los detectan». El departamento, liderado por Borja Díaz-Merry, concluye que el otro problema es que tampoco saben «qué tecnologías aplican ni hasta qué punto se pueden fiar de los resultados». Por este motivo, el criterio periodístico se torna más imprescindible aún y siempre piden la opinión de expertos. Además, complementan los resultados con un análisis visual de la imagen para detectar fallos.
IVERES ofrece «un nivel de garantía mucho mayor, ya que, por un lado, conocemos quién está detrás del proyecto y cómo se desarrolla y, por otro, conocemos en parte el proceso de la aplicación para detectar que una imagen ha sido generada con inteligencia artificial». Además, siempre pueden contactar directamente con las personas que las han desarrollado si detectamos algún fallo o irregularidad.
Según afirma Bayo, «sería más efectivo que además del porcentaje se ofreciera una pequeña interpretación del mismo». Esto, por suerte, pueden solucionarlo con la consulta a los expertos que han desarrollado la herramienta. Incluso les añaden en los artículos que publican en su web, aunque dice, «lo ideal sería poder obtenerlo de una forma automática sin tener que molestarles y esperar su respuesta para poder publicar».