La inteligencia artificial conlleva riesgos que es necesario identificar y mitigar. A continuación, los analizaremos desde una triple perspectiva.
a) Riesgos de fiabilidad
- Alucinaciones: el modelo genera información falsa o inventada y la presenta con la misma fluidez y estructura que los datos reales. Para mitigarlas se debe obligar al modelo a basarse en fuentes reales, citarlas y verificarlas antes de ofrecer la respuesta al usuario.
- Información ambigua: las respuestas resultan contradictorias, vagas o difíciles de interpretar, mezclando afirmaciones opuestas o cambiando de criterio. Para mitigar este riesgo hay que pedir a la IA que indique claramente cuándo algo no está claro.
- Falta de veracidad: el sistema entrega datos incorrectos, incompletos o desactualizados como si fueran verdaderos. Para mitigarlos hay que exigir a la IA que base sus respuestas en fuentes actualizadas.
- Sobreconfianza injustificada: el modelo expresa un alto grado de certeza frente a datos erróneos o especulativos. Para mitigarla hay que pedirle a la IA que, antes de afirmar algo como cierto o indubitado, verifique los resultados al menos una vez.
- Falta de consistencia lógica: la IA genera respuestas dispares o contradictorias ante peticiones idénticas o semánticamente equivalentes. Para mitigarla hay que realizar pruebas repetidas para detectar inconsistencias.
- Déficit de explicabilidad: incapacidad del sistema para justificar el razonamiento que condujo a una respuesta concreta. Para mitigarlo, la IA debe mostrar el razonamiento paso a paso, de forma que el usuario tenga la oportunidad de revisarlo.
b) Riesgos de equidad
- Sesgos algorítmicos: tratos desiguales derivados de decisiones de diseño, métricas de optimización o datos de entrenamiento. Para mitigarlos hay que revisar regularmente si la IA favorece o perjudica a grupos concretos y corregir los datos de entrenamiento cuando se detecten sesgos.
- Discriminación demográfica: impactos desproporcionados o perjudiciales hacia colectivos específicos (por razón de género, origen étnico, edad, orientación sexual…). Para mitigarla hay que probar la IA con personas de distintos colectivos y establecer reglas claras para que no utilice estereotipos.
- Sesgos de representación: datos con escasa diversidad donde ciertas culturas, dialectos o realidades quedan invisibilizados o estereotipados. Para mitigarlos hay que incluir ejemplos de muchas culturas, idiomas y realidades diferentes en los datos de entrenamiento.
- Bucles de retroalimentación: perpetuación de sesgos históricos al reentrenar los modelos con contenidos generados por la propia IA. Para mitigarlos hay que evitar reentrenar a la IA con las respuestas que ella misma genera.
- Sesgo de automatización: tendencia de los usuarios a aceptar las respuestas de la IA sin una supervisión crítica efectiva. Para mitigarlo hay que advertir al usuario de que debe comprobar las respuestas con fuentes verificadas.
- Barreras de accesibilidad: el modelo comete más errores cuando el usuario no usa un lenguaje técnico o escribe en dialectos e idiomas con menos presencia en Internet. Para mitigarlas, hay que enseñarle a la IA a entender y usar diferentes formas de hablar.
c) Riesgos de seguridad
- Respuestas tóxicas: generación de lenguaje ofensivo, degradante o inapropiado. Para mitigarlas hay que establecer filtros automáticos que detecten y bloqueen insultos o discursos de odio, y entrenar a la IA para que rechace ese tipo de contenido.
- Discurso de odio: contenidos que promueven la discriminación, hostilidad o violencia hacia grupos protegidos. Para mitigarlo hay que aplicar filtros específicos contra el discurso de odio y entrenar al modelo para que rechace o reformule este tipo de mensajes.
- Contenido ilegal: instrucciones operativas para cometer ilícitos, fraudes o confeccionar materiales dañinos. Para mitigarlo hay que programar a la IA para que rechace cualquier petición de ayuda para cometer delitos.
- Autolesión o daño personal: facilitación o normalización de conductas perjudiciales para la integridad física o psicológica del usuario o de terceras personas. Para mitigarlo hay que detectar las señales de alerta e implementar mecanismos automáticos de derivación hacia líneas de ayuda.
- Inyección de instrucciones: manipulación maliciosa de las entradas para eludir restricciones éticas o salvaguardas internas. Para mitigarla hay que separar estrictamente las instrucciones del sistema de las entradas del usuario y aplicar filtros de detección de intentos de manipulación.
- Fuga de datos confidenciales: revelación no autorizada de secretos comerciales, propiedad intelectual o datos personales memorizados durante el entrenamiento. Para mitigarla hay que separar claramente las instrucciones internas de lo que escribe el usuario y evitar que el modelo recuerde o reproduzca datos sensibles.
- Envenenamiento de datos: alteración malintencionada de los conjuntos de datos para inducir comportamientos erráticos o puertas traseras en el sistema. Para mitigarlo hay que controlar el origen de los datos y revisar rigurosamente su calidad.
- Desinformación masiva: empleo del modelo para crear campañas de desprestigio, propaganda sintética automatizada o ataques dirigidos de suplantación de identidad. Para mitigarla hay que limitar el uso masivo y automático del sistema y marcar el contenido generado por IA siempre que sea posible.
Conclusión
Este análisis es muy básico, pero la idea es que comprendan que el despliegue de la IA no está exenta de riesgos. Es un tema complejo que requiere de un análisis previo y de medidas de contención.
