Desnudos falsos con IA se convierten en una nueva forma de violencia digital contra mujeres

Las herramientas de inteligencia artificial están facilitando la creación de desnudos falsos con IA, imágenes manipuladas que muestran a personas desnudas o en situaciones sexuales sin haber dado consentimiento. Estas prácticas se están extendiendo en plataformas digitales y afectan principalmente a mujeres y niñas.

El fenómeno se basa en el uso de tecnologías conocidas como deepfakes o ultrafalsos. Con solo una fotografía tomada de redes sociales, un algoritmo puede generar imágenes sexualizadas en pocos segundos. Una vez publicadas, estas imágenes pueden difundirse rápidamente y replicarse en otras plataformas.

ONU mujeres, UNICEF y Naciones Unidas advierten que los desnudos falsos con IA se han convertido en una forma creciente de violencia digital contra las mujeres, ya que afectan la reputación, la privacidad y la seguridad de las víctimas.

Le puede interesar: Lamentable: agresores de violencia intrafamiliar están maltratando a sus mascotas como forma de intimidación

¿Cómo funcionan los desnudos falsos con IA?

Los desnudos falsos con IA se producen cuando herramientas de inteligencia artificial manipulan fotografías reales para generar contenido sexualizado que nunca existió.

El proceso suele requerir pocos conocimientos técnicos y, en muchos casos, las herramientas están disponibles de forma gratuita en internet. Este tipo de manipulación forma parte del fenómeno de los ultrafalsos o deepfakes, que también incluyen audios y videos alterados digitalmente.

Dentro de los datos encontrados que encienden las alarmas están:

• El 98 % de los videos falsificados en internet son de carácter sexual, según investigaciones sobre deepfakes.
• El 99 % de esas imágenes o videos muestran a mujeres.
• La producción de contenido pornográfico con ultrafalsos aumentó más de 550 % entre 2019 y 2023.
• Las imágenes pueden generarse en segundos a partir de fotos públicas.

El resultado suele ser una imagen manipulada que parece real y que puede difundirse sin control. En muchos casos, los desnudos falsos con IA se comparten en redes sociales, foros o aplicaciones de mensajería.

Consecuencias para las víctimas por la expansión del fenómeno

Las víctimas de desnudos falsos con IA suelen descubrir las imágenes cuando ya han sido distribuidas ampliamente en internet. En algunos casos, miles de personas pueden ver el contenido en pocas horas.

Las consecuencias no se limitan al entorno digital. El efecto incluye acoso, estigmatización y daños reputacionales que afectan la vida personal y profesional. Estos contenidos forman parte de un patrón más amplio de violencia digital contra las mujeres, en el que las herramientas tecnológicas se utilizan para hostigar, intimidar o silenciar a las víctimas.

Entre las situaciones más reportadas han estado, por ejemplo:

• Difusión masiva de imágenes manipuladas en redes sociales.
• Comentarios, burlas o amenazas en plataformas digitales.
• Uso de las imágenes para extorsión o chantaje.
• Viralización del contenido en grupos privados o foros.

Una vez difundidos, los desnudos falsos con IA son difíciles de eliminar por completo, ya que pueden almacenarse en dispositivos personales o replicarse en múltiples plataformas.

También le puede interesar: Colombia refuerza la Ley Olimpia para frenar la violencia digital contra las mujeres

¿Qué pasa con las plataformas, la regulación y las responsabilidades?

El crecimiento de los desnudos falsos con IA también ha preocupado debido a la responsabilidad de las plataformas tecnológicas. Las empresas digitales tienen la capacidad técnica para detectar y eliminar este contenido con mayor rapidez. Sin embargo, muchas víctimas denuncian que las plataformas tardan días en responder a las denuncias. Durante ese tiempo, las imágenes continúan circulando.

En varios países ya existen normas que prohíben la creación o difusión de imágenes íntimas sin consentimiento, incluidos los ultrafalsos generados por inteligencia artificial. Aun así, la aplicación de estas leyes sigue siendo limitada.

El fenómeno se ha vinculado directamente con el aumento de la violencia digital contra las mujeres, lo que ha impulsado debates sobre nuevas regulaciones para las plataformas y los desarrolladores de tecnología.

Entre las medidas propuestas por especialistas y organismos internacionales se mencionan:

• Obligar a las plataformas a retirar rápidamente el contenido manipulado.
• Establecer sanciones para quienes creen o difundan imágenes falsas.
• Mejorar los mecanismos de denuncia para las víctimas.
• Fortalecer la cooperación entre autoridades y empresas tecnológicas.

Riesgos para niñas, adolescentes y espacios públicos digitales

UNICEF también ha advertido que los desnudos falsos con IA no solo afectan a mujeres adultas. Niñas y adolescentes también han sido víctimas de manipulación digital con contenido sexual.

Un estudio realizado por el organismo internacional encontró que al menos 1,2 millones de menores en 11 países reportaron haber sido afectados por imágenes sexualizadas generadas con inteligencia artificial durante el último año.

La expansión de los desnudos falsos con IA genera preocupaciones sobre las repercusiones de la violencia digital contra las mujeres en la participación pública. Activistas y especialistas señalan que muchas víctimas reducen su actividad en redes sociales o evitan exponerse en espacios digitales por temor a ser objeto de este tipo de ataques.

¿En dónde queda entonces el papel de la inteligencia artificial, sobre la difusión de contenidos manipulados y sobre las responsabilidades de gobiernos, plataformas y usuarios para enfrentar este fenómeno?

Lea más: Gordofobia en Colombia: cuando el consultorio se convierte en espacio de violencia