A cada problema, una solución. Han creado una técnica para evitar la manipulación de fotos por la IA.

Se llama PhotoGuard y añade alteraciones minúsculas e invisibles en los píxeles de las fotos. Con esto, provoca distorsiones en las imágenes de la IA que las delatan como falsas.

Es una amenaza constante desde que surgieron las inteligencias artificiales generativas que se puedan manipular fotos fácilmente. Y también con un resultado de extrema calidad en poco tiempo.

Puede que muchos lo hagan para bromear con sus amigos, pero también está el lado perverso. Quienes utilicen estas facilidades para acosar o chantajear.

Con esa premisa, investigadores del MIT crearon una nueva tecnología que, según dicen, es capaz de distorsionar estas manipulaciones y evitar que las hagan pasar por reales.

¿Cómo funciona PhotoGuard?

Los modelos de IA ven las imágenes como un conjunto complejo de datos matemáticos que describen el color y la posición de cada píxel que la forman. PhotoGuard emplea dos métodos de manipulación para ‘inmunizar’ las fotos.

El primero introduce pequeñas alteraciones en esta representación matemática de las imágenes que son invisibles al ojo humano. Si alguien intenta utilizar una IA para manipular una imagen que ha sido tratada con este sistema obtendrá como resultado una versión distorsionada de la foto original.

En el ejemplo que presentan los investigadores, toman una imagen del cómico surafricano Trevor Noah. Al aplicar PhotoGuard, el resultado es que cualquier intento de usar la IA para modificar la foto de Noah obtiene como resultado un bloque gris.

La segunda técnica se denomina ataque de difusión y los investigadores aseguran que es mucho más compleja. Aquí, se altera la forma en que los modelos de IA generan las imágenes, introduciendo señales ocultas que modifican completamente la forma en la que son procesadas. Volviendo a la imagen de Trevor Noah, el equipo consiguió manipular a la inteligencia artificial para que ignorara sus indicaciones de texto y generara una imagen gris que es claramente artificial.

El fin de la manipulación de fotos por la IA

“El progreso de la IA al que estamos asistiendo es realmente impresionante, pero permite usos beneficiosos y maliciosos por igual”, afirma Aleksander Madry, profesor del MIT e investigador principal del CSAIL, que también es autor de la investigación. “Por tanto, es urgente que trabajemos para identificar y mitigar estos últimos. Veo PhotoGuard como nuestra pequeña contribución a ese importante esfuerzo”.

Por ahora, PhotoGuard es una buena solución, pero tiene sus limitaciones. Por ahora solo funciona con eficacia con Stable Difussion y no protege a las fotos más antiguas que ya se han subido a internet.