La inteligencia artificial nos está dejando herramientas, aplicaciones y usos espectaculares en el buen sentido, pero también otros muy preocupantes que comprometen la privacidad de las personas, sus derechos de imagen e incluso su dignidad.
Es algo que ya hemos visto con los ‘Deep Fakes‘ en vídeos porno y que ha preocupado enormemente a celebridades que se veían manteniendo relaciones sexuales con desconocidos de forma muy creíble. DeepNude es una aplicación que sigue principios similares, pero en lugar de para colocar a personas en situaciones en las que nunca han estado, para «desnudar» a mujeres eliminando su ropa en cualquier contexto.
Todo ello, como han contado nuestros compañeros de Xataka, utiliza el algoritmo pix2pix, desarrollado por la Universidad de California en Berkeley en 2017. Para su utilización en DeepNude, su desarrollador, que dice llamarse Alberto, lo ha entrenado con más de 10.000 imágenes de mujeres desnudas. Con ellas intenta replicar desnudos en cualquier situación.
[embedded content]
Hemos pasado un rato probándola, y esta ha sido nuestra experiencia.
DeepNude, la vieja vieja promesa de los rayos X que (afortunadamente) no termina de cumplirse
Hemos probado la versión gratuita de DeepNude en Windows, aunque también está disponible para Linux. Supuestamente, en la web también puede probarse lo que llaman «rayos X potenciados por IA», tras probar en Chrome, Edge, Safari y Firefox en macOS y Windows 10 hemos llegado a la conclusión de que no funciona. Si la versión de pago ya inserta marcas de agua, la versión gratuita genera imágenes inusables, con absolutamente casi todo tapado por círculos y letas. Además, no genera las imágenes para exportarlas, sino que el usuario debe hacer captura de pantalla para guardar los resultados.
Además de 150 MB del paquete de descarga de DeepNude, que Windows identifica como una app maliciosa que es mejor no ejecutar, DeepNude pide luego descargar 2 GB de archivos para funcionar. La aplicación funciona sin conexión a Internet, y aunque su creador afirma que no se envía información a Internet, es algo que no podemos comprobar.
Para utilizar la versión más completa habríamos tenido que desembolsar 99,99 dólares, algo a lo que además nos hemos negado por el apoyo que supondría a esta idea machista, pues sólo funciona con mujeres y contribuye a tratar el cuerpo y la dignidad de la mujer cuerpo como si de un objeto se tratara. Eso sí, el creador asegura que ya está trabajando en una versión masculina.
DeepNude en ropa de baño
La primera imagen (como el resto, tomando de base fotos libres de derechos) es una de las fáciles para DeepNude, con una chica en bikini. La foto original le muestra a ella junto a otras amigas, pero DeepNude no ha hecho efecto en el grupo, así que la hemos seleccionado solo a ella. Decíamos «fácil» porque es una foto donde con ligeros retoques es relativamente fácil eliminar la prenda y sustituir las partes del cuerpo por otras de las imágenes del entrenamiento.
Como se ve, el resultado no está nada mal, sobre todo en la parte baja del bikini, mientras que el pecho que introduce en la parte superior tiene una iluminación rara y no encaja demasiado bien en la persona. Aun así, como con los deepfakes, primeras pruebas de que tenemos que preocuparnos.
Esta imagen es más complicada por la iluminación, y si lo que se pretende es engañar y pasar por real, en ningún momento se consigue. El algoritmo introduce decentemente el pecho, pero no consigue eliminar artefactos de colores y sombras extrañas a lo largo de todo el cuerpo, sobre todo alrededor del pecho y en la parte de la barriga.
Y llegamos a otra de las imágenes que asustan. Tampoco logra parecer real, sobre todo por la sombra de la ropa sobre la piel que no es capaz de eliminar. Sin embargo, sorprendentemente, interpreta muy bien la inclinación de la chica de cara a «desnudarla». En partes como la barriga, por ejemplo, que estaba totalmente tapada, prácticamente ni se ve el salto entre realidad y recreación.
¿Qué pasa con más ropa?
Cuando DeepNude tiene que trabajar con imágenes de chicas con una postura extraña y con mucha ropa, los resultados son especialmente malos. El resultado que vemos respecto a la foto real es un manchurrón en el que se aprecia que se han intentado adivinar las formas del cuerpo, y se ha llegado a conseguir en alguna zona como en las piernas, pero sin ningún tipo de acierto en texturas ni continuidad con el resto del cuerpo.
¿Y con partes sueltas del cuerpo?
Aquí mostraremos qué hace DeepNude con la parte baja de un bikini sobre el trasero de una mujer. El resultado es que lo interpreta como si fuera un pecho tapado, e inserta un pecho y pezón en la parte oscura de la foto, donde va la prenda.
Entendemos que DeepNude no es capaz de saber que se trata de un culo, y al encontrar prenda, entiende que se trata de un sujetador e introduce ahí el pecho falso. En otras imágenes que hemos probado con partes traseras de personas, tampoco es capaz de «desnudar» correctamente y sustituir las imágenes por nalgas.
Intentar desnudar a hombres es otro fracaso
Uno de los asuntos más polémicos de DeepNude es que, como decíamos, no funciona con cuerpos de hombres. Al intentarlo, se producen los mismos desajustes que hemos visto en la imagen de la chica con mucha ropa.
En el caso de una imagen que hemos probado de una foto de nuestro compañero de vídeo Dani Esplá, la confusión para DeepNude es máxima, y no sólo no le «desnuda» correctamente, sino que introduce un pecho al lado de su cabeza. A ello se añaden sombras que no tienen ningún sentido, o la unión de las dos piernas con otra parte muy borrosa.
Si probamos con un chico en bañador, no se produce tanto problema de interpretación, pero parece que DeepNude se lo quita para ponerle algo que parece una vagina borrosa, por lo que no podemos decir que el resultado sea, en ningún caso, correcto.
Como los deepfakes, DeepNude arroja resultados muy preocupantes. No tanto por lo que suponen a día de hoy, sino por lo que a buen seguro van a suponer de aquí a unos años. Si un pequeño equipo es capaz de hacer esto con 10.000 fotos y un algoritmo público, de qué no serán capaces equipos con datasets mucho mayores y con mucha mayor dedicación y recursos. Con aplicaciones como esta, nos adentramos en una era en la que todo va a ser cuestionable, y en donde, sin control, se podrá hacer mucho daño.
Importante: en este momento la compañía afirma en su web que no esperaban el éxito de la aplicación y que sus servidores no estaban preparados. Por tanto, aunque la aplicación puede utilizarse offline, si no has descargado todos los archivos necesarios tras la primera descarga, no podrás utilizar DeepNude.
