Los deepfakes sexuales se han convertido en una de las amenazas más graves y extendidas contra la dignidad y la intimidad de las personas, especialmente de mujeres y menores.
Recientemente, la AEPD ha tenido la oportunidad de pronunciarse en dos casos de este tipo de deepfake.
Expediente 202503445
Las imágenes falsas de desnudos realizadas con inteligencia artificial fueron difundidas por sus autores a través de WhatsApp, redes sociales, portales de Internet como Onlyfans y diversas páginas pornográficas. La AEPD tuvo conocimiento de los hechos por medio de varios medios de comunicación, iniciando actuaciones de oficio.
La resolución de la autoridad de control parte de la base de que la imagen, de acuerdo con el artículo 4.1 del RGPD, constituye un dato personal al permitir la identificación de una persona. En consecuencia, la difusión de fotografías manipuladas mediante inteligencia artificial, que asocian rostros reales a cuerpos desnudos que no les pertenecen, supone un tratamiento de datos personales.
Durante las actuaciones, se identificó a la persona que difundió los falsos desnudos a través de un grupo de WhatsApp. Atendiendo a lo anterior, se considera que dicha persona ostenta la condición de responsable del tratamiento, al ser quien determina los fines y medios de la actividad, en virtud del artículo 4.7 del RGPD. No se entra a valorar si también generó las imágenes, puesto que únicamente se acreditó la difusión.
Para la AEPD, el responsable del tratamiento incumplió el principio de licitud, al carecer de base legal para tratar los datos personales, sancionando la conducta con una multa de 2.000 €. Se tuvieron en cuenta circunstancias agravantes como la gravedad de los hechos, la afectación a menores, la connotación sexual y la amplia difusión del contenido. Aplicando las reducciones por pronto pago y reconocimiento de responsabilidad, se procedió a una reducción del 40 % de la sanción inicial, quedando en 1.200 €.
Numerosas voces —madres afectadas, asociaciones y medios de comunicación— consideraron que la multa era irrisoria frente al daño causado (humillación pública, impacto psicológico en menores y difusión masiva con contenido sexual). Sin embargo, la AEPD se ciñó estrictamente a los criterios de graduación establecidos en la LOPDGDD para infracciones leves o medias cuando el responsable es una persona física no profesional.
Aunque la resolución no lo menciona expresamente, el caso se deriva de los sucesos de Almendralejo (Badajoz), en los que varios menores generaron y difundieron imágenes falsas de compañeras del instituto —también menores— desnudas, utilizando aplicaciones como ClothOff.
En vía penal, el Juzgado de Menores de Badajoz, mediante sentencia de conformidad de 20 de junio de 2024, condenó a los quince menores implicados (todos varones, de entre 13 y 15 años en el momento de los hechos) a la medida de libertad vigilada durante un año y a la realización de tareas socioeducativas, consistentes en un programa formativo específico de educación afectivo-sexual. Los delitos atribuidos fueron los de pornografía infantil y contra la integridad moral.
Este caso es histórico porque es la primera sanción impuesta por una autoridad de control en materia de protección de datos personales.
Expediente 202503445
El caso se remonta al 18 de octubre de 2023, cuando la víctima, menor de edad, recibió de un amigo una captura de pantalla que le alertaba sobre la difusión, a través de WhatsApp, de una fotografía suya manipulada mediante inteligencia artificial para que aparentara estar desnuda. La fotografía original se había obtenido del perfil público de la menor en Instagram.
Los argumentos jurídicos fueron similares a los del caso anterior, si bien la AEPD en su resolución solo apercibió al responsable, no impuso una multa económica. La Agencia aplicó dos circunstancias atenuantes: la difusión de la imagen manipulada fue limitada (solo WhatsApp) en comparación con la resolución anterior y el responsable —de 13 años de edad— presentaba una posible falta de capacidad para comprender plenamente la ilicitud de su conducta.
Conclusión
Sale extremadamente barato este tipo de atentados contra derechos fundamentales de la persona como son el derecho al honor, a la intimidad y a la propia imagen.
No se pierda nuestro podcast sobre el artículo
