En 2023, la Brigada de Seguridad de Internet de la Oficina de Seguridad Pública de la ciudad china de Pingliang detectó y resolvió uno de los primeros casos conocidos a nivel mundial de uso de inteligencia artificial para crear y difundir noticias falsas. Esta acción está prohibida por el Reglamento sobre la Administración de Síntesis Profunda de los Servicios de Información de Internet, vigente desde el 10 de enero de 2023.
El Gobierno chino cuenta con un robusto sistema de supervisión y censura digital, coordinado por la Administración del Ciberespacio de China (CAC) en coordinación con el Ministerio de Industria y Tecnologías de la Información (MIIT) y el Ministerio de Seguridad Pública:
- Oficina de Seguridad en Internet del Ministerio de Seguridad Pública.
- Departamento Central de Propaganda del Partido Comunista (y sus equivalentes provinciales y locales).
- Oficina de Información en Internet del Comité Provincial del Partido Comunista.
- Departamentos de Seguridad Pública Provinciales y Municipales.
Estos organismos colaboran para monitorear, eliminar y sancionar contenidos que consideren perjudiciales para la seguridad nacional, el orden social o la imagen del país.
El caso
El 25 de abril de 2023, la Brigada de Seguridad de Internet de la sucursal de Kongtong de la Oficina de Seguridad Pública de Pingliang identificó un artículo falso titulado: «Un tren atropelló a trabajadores de la construcción de carreteras en Gansu esta mañana y mató a 9 personas». De inmediato, la Brigada comenzó a trabajar, descubriendo que un total de 21 cuentas de BAIDU habían publicado el artículo al mismo tiempo. El número de visitas, en pocas horas, superó las 15.000.
Durante la investigación, se descubrió que la cuenta de BAIDU involucrada en el caso era propiedad de una empresa de Shenzhen. Su representante legal, Hong Moumou, fue detenido el 5 de mayo de 2023 en su domicilio en Dongguan. Admitió haber usado ChatGPT para generar y editar el texto de la noticia falsa, basándose en artículos virales reales para reescribirlos y evadir filtros de duplicados, con el fin de generar tráfico y monetizar mediante publicidad o clics.
Fuente principal: Informe oficial de la Oficina de Seguridad Pública de Pingliang (mayo 2023).
Conclusión
Las noticias falsas distorsionan la percepción de la realidad y pueden influir de manera significativa en la toma de decisiones, tanto a nivel individual como colectivo. Por ejemplo, durante unas elecciones, la difusión de información falsa puede manipular la opinión pública y alterar los resultados. También pueden provocar daños reputacionales difíciles de reparar, afectar a la credibilidad de instituciones y empresas, o incluso incitar a los usuarios a acceder a enlaces o archivos maliciosos que comprometen la seguridad de sus dispositivos.
Cada día cuesta más saber qué es cierto y qué no, así que mejor ir con cuidado.
—
Actualización (11.08.2023)
La policía china detiene a 515 personas por usar tecnología de suplantación facial para estafar
Más información
