La Autoridad Catalana de Protección de Datos (APDCAT) presentó en el Parlament de Catalunya un Modelo para realizar una Evaluación de Impacto sobre los Derechos Fundamentales (EIDF) en materia de inteligencia artificial (IA), con el objetivo de ofrecer una herramienta práctica a aquellas entidades que utilicen la IA en el marco de sus actividades con la obligación de realizar una EIDF en virtud del Reglamento de Inteligencia Artificial.
El modelo de la APDCAT propone una metodología basada en tres fases:
- Planificación y determinación del alcance, centrada en una descripción exhaustiva del sistema de IA, teniendo en cuenta su contexto de uso y la tipología de personas expuestas al riesgo.
- Recopilación de datos y análisis de riesgos, en la que se identificarán los riesgos potenciales para la salud, la seguridad y los derechos fundamentales, evaluando su probabilidad, gravedad y alcance.
- Gestión de riesgos, con el fin de adoptar, implementar y supervisar medidas adecuadas para prevenir o mitigar dichos riesgos y comprobar su efectividad. Cabe recordar que la «gestión de riesgos» es un proceso iterativo que se repite a lo largo del ciclo de vida del sistema de IA.
El modelo incluye un cuestionario de planificación y alcance, con preguntas tanto genéricas (sobre el sistema, sus objetivos y el contexto) como específicas (para identificar derechos fundamentales potencialmente afectados, como privacidad, no discriminación, libertad de expresión o acceso a servicios esenciales), permitiendo delimitar áreas que requieren mayor protección y priorizar análisis.
Conclusión
La autoría del modelo se atribuye al grupo DPD en xarxa (DPD en red), que reúne a los delegados de protección de datos del sector público de Cataluña, liderado por el profesor titular de Derecho Civil de la Universidad Politécnica de Turín, Alessandro Mantelero.
El modelo se desarrolló a partir de cuatro casos reales, en los que se evaluó el impacto de sistemas de IA en los derechos fundamentales de los afectados. Dichos casos se enmarcan en los siguientes ámbitos:
- Educativo (evaluación de los resultados del aprendizaje y predicción del abandono escolar)
- Gestión de personal (sistemas de apoyo a la toma de decisiones en la gestión de recursos humanos).
- Acceso a la asistencia sanitaria (tratamiento del cáncer basado en imágenes médicas).
- Servicios de bienestar sociales (asistente de voz para personas mayores).
Por su parte, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) nos proporciona diversas guías, que son especialmente útiles para pymes, startups y grandes empresas que participaron o se inspiran en el sandbox. Para acceder al contenido completo hagan clic aquí.
No se pierda nuestro podcast sobre el artículo
