Son muchas las voces de alarma que advierten del enorme daño que está causando la pornografía a los menores como deformación de las relaciones íntimas, cosificación sexual de la mujer, exhibición de atributos físicos que pueden impactar negativamente en la autoestima de los menores, fomento de actitudes agresivas en el ámbito sexual, normalización de prácticas sexuales extremas, etc.
Una de las principales características de la pornografía online es su fácil acceso. La proliferación de los dispositivos móviles permite el acceso prácticamente inmediato a este tipo de contenidos. Además, la oferta es mayoritariamente gratuita.
Estudios como el de «Save the Children», que dejo enlazado aquí, alertan acerca de la deformación que supone la pornografía en la educación sexual de los menores. De media, los adolescentes que ven pornografía lo hacen, por primera vez, a los doce años y siete de cada diez la consume de forma frecuente.
Otros estudios, como el que dejo enlazado aquí, nos advierten de la relación directa que existe entre la pornografía y la violencia de género. Incluso los hay, como los enlazados aquí, que relacionan la pornografía con el incremento de la pederastia y las agresiones sexuales.
El impacto en el desarrollo neurológico es evidente y los expertos están de acuerdo en que consumir pornografía puede generar deterioro cognitivo en la memoria, déficit de atención y problemas a nivel neurobiológico. Al respecto, son reveladoras la entrevista del Dr. Miguel Ángel Martínez-González, catedrático de la Universidad de Navarra y adjunto de la Escuela de Salud Pública de la Universidad de Harvard, y la entrevista a Jorge Gutiérrez, director ejecutivo de «Dale Una Vuelta».
Iniciativas de la Unión Europea
El Parlamento Europeo aprobó el 5 de octubre de 2023 la Resolución sobre la Nueva Estrategia Europea para una Internet Mejor para los Niños (BIK+), en la que pide «una norma europea sobre la verificación en línea de la edad para 2024». Pide, también, un «código de conducta» que garantice la armonización con la Directiva de Servicios de Comunicación Audiovisual y el Reglamento General de Protección de Datos.
Al mismo tiempo, con base en la Ley de Servicios Digitales, la Comisión Europea ha obligado a tres plataformas online de muy gran tamaño (Pornhub, XVideos y Stripchat) a adoptar las siguientes medidas antes del 17 de febrero de 2024:
- Ofrecer mecanismos fáciles de usar que permitan a los usuarios o entidades notificar contenidos ilícitos.
- Dar prioridad al tratamiento de los avisos notificados por los llamados «alertadores fiables».
- Dar explicaciones a los usuarios cuando se restrinjan o eliminen sus contenidos.
- Ofrecer un sistema interno de tramitación de reclamaciones para que los usuarios recurran las decisiones de moderación de contenidos.
- Informar a las autoridades policiales si tienen conocimiento de que se ha podido un delito que implique una amenaza para la vida o la seguridad de una persona, también en caso de abuso sexual de menores.
- Rediseñar sus sistemas para garantizar un alto nivel de privacidad, protección y seguridad de los menores.
- Garantizar que sus interfaces no estén diseñadas de manera que engañen o manipulen a los usuarios.
- Etiquetar claramente la publicidad en sus interfaces.
- Dejar de presentar publicidad personalizada basada en la elaboración de perfiles de datos sensibles o dirigida a menores.
- Fijar condiciones claras y actuar de manera diligente, objetiva y proporcionada al aplicarlas.
- Publicar, una vez al año, informes de transparencia sobre sus procedimientos de moderación de contenidos.
Además, dichas plataformas deberán adoptar las siguientes medidas:
- Analizar los riesgos sistémicos en relación con la difusión de contenidos ilícitos y contenidos que pongan en peligro los derechos fundamentales. Los informes de evaluación de riesgos deberán presentarse a la Comisión cuatro meses después de la notificación de la designación oficial y hacerse públicos a más tardar un año después.
- Establecer medidas de mitigación para hacer frente a los riesgos relacionados con la difusión de contenidos ilícitos en línea, por ejemplo, material de abuso sexual de menores, y de contenidos que afecten a derechos fundamentales, por ejemplo, el derecho a la dignidad humana y a la vida privada en caso de intercambio no consentido de material íntimo en línea o pornografía deepfake.
- Reforzar internamente los procedimientos, los recursos, la realización de pruebas, la documentación o la supervisión de cualquiera de sus actividades vinculadas a la detección de riesgos sistémicos.
Control de accesos
Los progenitores respecto de los hijos no emancipados tienen el deber de velar por ellos, educarlos y procurarles una formación integral (artículo 154 del Código Civil). Para evitar que consuman contenidos inapropiados para su edad existen herramientas de control parental, aunque no evitan que pueden acceder a dichos contenidos a través de dispositivos libres de medidas de control.
La cuestión es que las empresas responsables del contenido para adultos tienen que cumplir las obligaciones impuestas en la normativa de protección de datos.
Recientemente, la Agencia Española de Protección (AEPD) ha tenido la oportunidad de pronunciarse al respeto, sancionando a la empresa responsable de cinco páginas web con contenido para adultos con 525.000 €. Dejo la resolución enlazada aquí.
Una de las cuestiones que pone de manifiesto la AEPD es que los responsables de las páginas web con contenido para adultos no pueden transferir a los usuarios los riesgos asociados a su actividad, esto es, si el contenido se reserva a un determinado colectivo (mayores de edad) tienen que adoptar las medidas necesarias para evitar que los menores tengan acceso a dicho contenido.
La AEPD advierte que las cautelas previstas en las páginas web objeto de análisis, que se limitan a un «banner» donde se pregunta al interesado si es mayor de edad, antes de acceder al contenido para adultos, son claramente insuficientes para limitar el acceso a los menores y «si bien hay mecanismos para declarar la edad, no existe ninguno para comprobarla ulteriormente, ni ninguno para verificarla ab initio, lo que sí constituiría una medida apropiada para evitar la materialización de los altos riesgos en los derechos y libertades de los menores». A mayores, afirma que «el mecanismo para declarar la edad no funciona adecuadamente, pues salvo en una de las páginas web, aun cliqueando en la opción <NO>, si se cliquea en cualquier otro sitio de la página web, el banner de advertencia desaparece y se posibilita el acceso al contenido de la web».
Mecanismos para la verificación en línea de la edad
Hasta la fecha, existen diversas iniciativas en diferentes países para establecer mecanismos de verificación en línea de la edad. Veamos algunos casos:
España
El Grupo Parlamentario Plural presentó, como enmienda a la conocida como «Ley de solo sí es sí», una Proposición de Ley Orgánica de refuerzo de las medidas para restringir el acceso de los menores de dieciséis años a la pornografía.
El texto planteaba que, en el marco de la Ley General de la Comunicación Audiovisual, la Comisión Nacional de los Mercados y la Competencia (CNMV) se encargara de controlar y supervisar a los prestadores del servicio de intercambio de vídeos a través de plataforma, pudiendo requerirles de comprobarse que menores de dieciséis años podían tener acceso a contenidos para adultos. También, planteaban una modificación del Código Penal para condenar la llamada «pornografía deepfake», aquella en la que se utiliza la inteligencia artificial para recrear escenas pornográficas de manera realista sin el consentimiento de los protagonistas.
Los Grupos Parlamentarios del PSOE y VOX votaron en contra, el PP se abstuvo y el resto de Grupos Parlamentarios votaron a favor. En consecuencia, la Proposición de Ley Orgánica no prosperó.
En un mesa redonda sobre «Generación XXX: por un control efectivo del acceso de los menores a la pornografía» en el marco de la campaña lanzada por la asociación «Dale Una Vuelta» con la colaboración de la Oficina del Parlamento Europeo en España, la Presidenta de la AEPD anunció que la división de innovación tecnológica estaba colaborando con la Fábrica Nacional de Moneda y Timbre (FNMT) para establecer un mecanismo de verificación de edad apropiado. Descartado el tradicional certificado electrónico, por cuanto está vinculado al nombre y apellidos y DNI del usuario, plantea como variante de este último un certificado electrónico exclusivamente «de atributos», es decir, basado únicamente en una información que, en este caso, sería la mayoría de edad. Existen alternativas como las credenciales verificables basadas en el «blockchain» que habilitan la posibilidad de ceder solo parte de la información recopilada, en este caso, de nuevo, la mayoría de edad. Y, por último, están los llamados «tokens de edad», identificadores digitales emitidos por una entidad certificadora.
El 29 de enero de 2024, la AEPD presentó su Estrategia global sobre menores, salud digital y privacidad, un documento que recoge sus líneas de actuación prioritarias para fomentar la protección efectiva de la infancia y adolescencia en el uso que realizan de Internet.
En julio de 2024, el gobierno anunció la implantación de un sistema de verificación de edad para el acceso a contenidos en línea. El usuario registrará su edad en la aplicación «Cartera Digital» mediante el uso de un documento oficial como el DNI. Acto seguido, se generará una credencial anónima que le permitirá entrar en los sitios web con contenido para adultos. Esa credencial se almacena en el dispositivo del usuario. El sitio web podrá verificar la edad del usuario mediante la oportuna solicitud de evidencia y lectura del código QR generado a partir de dicha solicitud. En caso de que sea mayor de edad y cuente, por tanto, con su credencial de acceso, el usario podrá consumir el contenido. En caso contrario, se bloqueará la entrada.
Algunos expertos en ciberseguridad dudan de las garantías del sistema para la privacidad de las personas. Tal es el caso de Ramón Medrano Llamas, muy crítico con el sistema propuesto. Dejo enlazado aquí su informe titulado “Análisis y Propuesta para la Cartera Digital”.
El hacker ético Deepak Daswani también se ha mostrado muy crítico, tachando la aplicación de «despropósito». En su opinión, todo hace indicar que el Gobierno, si quisiera, podrá saber quién consume pornografía. «Todas las claves salen a partir de un DNI. Alguien sabe quién eres, el sistema que las expide puede guardar esa información. En última instancia, el Gobierno podría saberlo».
No solo se duda de que el sistema propuesto garantice la privacidad de los usuarios, también se duda de su efectividad para reducir el consumo de este tipo de contenido entre los menores, pues no resuelve el problema de la difusión de contenido para adultos a través de las aplicaciones de mensajería móvil. Aparte de que solo se aplicaría a sitios web de empresas ubicadas en España. Un simple cambio de domicilio fiscal serviría para eludir el control.
Otras voces alertan de que este sistema de verificación de edad para el acceso a contenidos online puede hacerse extensible a otros contenidos y que esto es solo una prueba para saber como lo recibirá la ciudadanía.
El Consejo de Ministros aprobó el 4 de junio 2024 el Anteproyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales. A ver qué recorrido tiene y qué medidas se adoptan a su amparo, en caso de aprobarse.
Francia
En julio de 2021, dos asociaciones de protección infantil, E-Enfance y La Voix de l’enfant, promovieron una demanda contra los principales proveedores de servicios de Internet para que bloquearan varias páginas web con contenido pornográfico, considerando que el acceso a este era demasiado fácil para los menores de edad.
La demanda se basó en la Ley nº 2020/936, de 30 de julio, destinadas a proteger a los menores contra el acceso a contenidos pornográficos en Internet que exige a los editores de sitios web verificar la edad de los usuarios para evitar que los menores de edad puedan acceder a contenidos inadecuados para su edad. El Ministerio de Cultura aprobó, también, el Decreto nº 2021/1306, de 7 de octubre de 2021, relativo a los procedimientos para la aplicación de medidas destinadas a proteger a los menores frente al acceso a sitios de difusión de contenidos pornográficos.
La solicitud de bloqueo fue rechazada por cuestiones meramente formales. El tribunal judicial de París dispuso que las asociaciones «no acreditan haber intentado establecer contacto con las empresas que publican contenidos pornográficos, aun siendo identificables y expresamente identificadas» (fuente). La sentencia fue confirmada por el Tribunal de Apelación de París en mayo de 2022, siendo recurrida en casación.
La Corte de Casación de Francia en sentencia de 18 de octubre de 2023 anuló la sentencia impugnada, confirmando que las asociaciones de protección de la infancia pueden solicitar ante los tribunales de justicia que ordenen directamente a los proveedores de servicios de Internet (ISP) que bloqueen el acceso de los usuarios menores a un sitio pornográfico, sin haber iniciado previamente acciones legales contra el responsable, anfitrión o editor del contenido para adultos.
La sentencia de la Corte de Casación se ampara en el artículo 227.24 del Código Penal que prohíbe la difusión en Internet de contenidos pornográficos cuando lesionen gravemente la dignidad humana, sancionándolo con tres años de prisión y multa de 75.000 €. También se ampara en el artículo 6.I.8 de la Ley 2004-575, de 21 de junio de 2004, de confianza en la economía digital, que ofrece al juez la posibilidad de exigir urgentemente a los anfitriones o proveedores que adopten cualquier medida para detener o prevenir los daños causados por el contenido de un servicio de comunicación en línea.
La decisión de la Corte de Casación se produjo un día después de la aprobación por parte de la Asamblea Nacional del Proyecto de ley destinado a asegurar y regular el espacio digital. El texto faculta a la Autoridad Reguladora de la Comunicación Audiovisual y Digital para bloquear cualquier sitio web que no tenga implementado un mecanismo válido de verificación de la edad de los usuarios, sin necesidad de intervención judicial. Además, tendrá la posibilidad de sancionar al infractor.
El ejecutivo francés ha propuesto un mecanismo de verificación de la edad que pasaría por la creación de un certificado digital que sirva para indicar la edad del titular. Se plantea que sea un tercero de confianza quien verifique que el usuario es «mayor de edad».
Para más información, les dejo enlazado aquí un análisis realizado por la autoridad de control (CNIL) con las diversas soluciones que se plantean como sistemas de verificación de la edad.
Reino Unido
Allá por el año 2018, el Reino Unido trató de implementar un sistema de verificación de edad que habría requerido que los usuarios verificaran su edad ingresando el número de su tarjeta de crédito o el código de un «pase temporal» que se compraría en los quioscos con un coste aproximado de diez libras según informó The Telegraph.
El sistema tenía problemas técnicos que reducían su eficacia, así, el bloqueo se planteaba a través de DNS, de modo que los usuarios podrían saltar el bloqueo, fácilmente, usando una VPN o simplemente cambiando de operador. También recibió numerosas críticas por posibles violaciones de la privacidad. Oficialmente, se abandonó el 15 de octubre de 2018.
Actualmente, el Reino Unido está debatiendo el Proyecto de Ley de Seguridad en línea que incluye un filtro de edad más eficaz, pero no se producen avances reales.
Alemania
Alemania propuso un sistema de verificación ideado por la compañía YOTI. Se basa en un sistema de reconocimiento facial, en el que sólo se analiza la geometría de la cara para que el algoritmo coteje rasgos típicos de cada edad y deducir si el usuario es, o no, mayor de edad.
Haciendo clic aquí puede acceder al documento explicativo elaborado por el desarrollador.
Italia
Italia bloquea las tarjetas SIM de los dispositivos móviles de los menores de edad para impedir que accedan a contenidos inapropiados, relacionados con la violencia e instigación al suicidio, la pornografía, los juegos de azar y apuestas, la venta de armas, las drogas, las sectas religiosas, el odio, la intolerancia y las conductas alimentarias de riesgo como anorexia y bulimia.
Las teleoperadoras son las encargadas de activar automáticamente el bloqueo, sin necesidad de una petición previa. El problema es que este sistema exige que el titular de la tarjeta SIM sea el menor, y si bien en Italia un menor de ocho años puede ser titular de una línea telefónica, las compañías suelen exigen un mínimo de quince años para contratarlas, lo que resta utilidad al sistema.
Australia
Australia lleva años elaborando una gran base de datos biométricos centrada en el reconocimiento de los rostros de sus ciudadanos a partir de sus documentos oficiales, tales como pasaportes o licencias de conducir. El Servicio de Verificación de Rostros estará disponible para consulta de diversos departamentos gubernamentales.
El Gobierno australiano planteó emplear el reconocimiento facial y el servicio de verificación de rostros para controlar y evitar que los menores de edad tengan acceso a sitios web con contenido para adultos. Rápidamente surgieron voces críticas entre los legisladores australianos para oponerse a la propuesta del Gobierno, porque dicen se estaría violando el derecho fundamental a la privacidad de los usuarios de pornografía, mostrándose preocupados ante posibles fugas de información que podrían desvelar la identidad de éstos.
El Comité Parlamentario Conjunto de Inteligencia y Seguridad exigió al Gobierno australiano que volviera a redactar el proyecto de ley para determinar que garantías se establecerían para preservar y salvaguardar la privacidad de los usuarios. El requerimiento se hizo en el año 2019 y, desde entonces, no se ha vuelto a saber nada del proyecto de ley.
Conclusión
Para implementar un mecanismo válido que no conduzca a un tratamiento excesivo de datos personales con el objetivo de verificar la edad del usuario, los sistemas de verificación de edad deben estructurarse en torno a cinco pilares:
- Minimización de datos.
- Proporcionalidad.
- Robustez.
- Sencillez.
- Estandarización e intervención de terceros independientes de confianza para evitar la transmisión directa de datos identificativos al titular del sitio web.
Es necesario impedir que los menores de edad puedan acceder a contenidos inadecuados para su edad, pero los sistemas de control deben garantizar la privacidad y la libertad de los adultos.
