Desde la creación de Photoshop y de los editores de imágenes, retocar una foto ha sido pan comido. Hay quien hace auténticas obras de arte en su ordenador e incluso en el móvil, pero hay quien se pasa de la raya. Ahora, una nueva herramienta creada por Google llamada Assembler te permite saber fácilmente si una imagen es falsa o ha sido modificada.

La herramienta ha sido desarrollada por Jigsaw, un departamento de Alphabet dedicado a investigar nuevas tecnologías y aplicaciones. Ahora, han desarrollado Assembler, que está disponible ya para ayudar a los periodistas y fact-checkers a comprobar si una imagen es real o si ha sido modificada.

Assembler es, básicamente, una combinación de técnicas que ya existen en la actualidad. Por ejemplo, es capaz de detectar cambios en el brillo de diversos elementos de las imágenes, así como saber si hay píxeles que provienen de otras imágenes a pesar de que la textura final sea diferente. Además, es capaz de detectar si una imagen ha sido creada con StyleGAN o algún tipo de herramienta de creación de deepfakes.

El resultado de usar todas las herramientas es que Assembler arroja un número final, que es la probabilidad de que la imagen haya sido modificada de alguna manera. Para los usuarios es cada vez más complicado detectar si una imagen ha sido modificada, por lo que el hecho de que haya programas que lo hagan automáticamente es más que bienvenido para evitar que aumente la desinformación con contenido falso.

Además del porcentaje, también ofrece explicaciones detalladas de las modificaciones que ha detectado para aportar más información sobre qué elementos han sido cambiados en la imagen, y poder identificar más fácilmente el fin con el que se ha hecho esa modificación. Entre los motivos puede haber interés en influenciar la opinión pública en favor de alguna idea polémica cuando no hay argumentos basados en hechos reales para defenderla.

Las imágenes de baja resolución, su principal enemigo

Durante el desarrollo de la herramienta, el equipo ha encontrado algunas dificultades tales como que las imágenes usaban los periodistas no tenían apenas representación en los sets de imágenes usados para entrenar la IA. Además, también tenían problemas para identificar imágenes que estaban fuertemente comprimidas al haberse comprimido varias veces. Esto ocurre, por ejemplo, cuando alguien hace una captura de pantalla, la pone en un Storie de Instagram, luego alguien hace una captura de ese Storie, se comparte varias veces por WhatsApp, etc.

Por ello, han ido ampliando poco a poco la base de datos de las imágenes para mejorar la detección, y además utilizan un buscador de imágenes inverso que usa TinEye para buscar la imagen original o una de mayor resolución. Por ejemplo, si ponemos una imagen que ha llegado por WhatsApp, la IA le hará la búsqueda inversa para obtener la original, que ha podido ser sacada de un tweet.

Aunque el sistema es ideal para fotos, de momento sus funcionalidades no se aplican a vídeos, donde sería mucho más práctico para descubrir los deepfakes. De momento sólo está disponible para periodistas y fact-checkers, pero seguro que en el futuro lanzan algo para el resto del mundo que nos permite luchar contra los problemas que generan los programas para editar fotos.