La inteligencia artificial (IA) ya forma parte de nuestra vida cotidiana. A continuación, les compartiré algunos ejemplos de su aplicación práctica.
En el sector financiero, la concesión de préstamos se decide mayoritariamente mediante algoritmos que calculan el nivel de scoring crediticio, es decir, la probabilidad de impago de un crédito de importe determinado solicitado por un cliente específico, considerando su finalidad y plazo. Si esa probabilidad es sitúa por debajo del umbral establecido por la entidad, se concede el préstamo; en caso contrario, se deniega. Estos algoritmos se basan en diversos datos: la ratio de solvencia del solicitante, la relación entre ingresos y pagos comprometidos, la antigüedad laboral, la formación académica, la declaración patrimonial y otros indicadores relevantes.
En meteorología, los algoritmos ofrecen predicciones más rápidas y precisas que los métodos tradicionales, gracias a su capacidad para procesar grandes volúmenes de datos en tiempo real y detectar patrones complejos.
En la agricultura, con la ayuda de sensores, los sistemas de IA permiten optimizar la producción, regular el riego, detectar plagas, determinar el momento óptimo para la siembra o la recogida de las cosechas, contribuyendo al desarrollo de soluciones sostenibles y eficientes.
En el ámbito sanitario, los algoritmos son capaces de detectar tumores con tasas de acierto superiores, en muchos casos, a los de grupos de especialistas humanos.
En la logística, la IA permite gestionar, de una manera más eficiente, las cadenas de suministros, optimizar la toma de decisiones y controlar las fases de producción.
La IA será fundamental en el desarrollo de las ciudades inteligentes, por ejemplo, para ordenar el tráfico de los vehículos, optimizar el transporte público o la recogida de los residuos sólidos urbanos.
Decisiones individuales automatizadas
El problema de los algorítmicos es que pueden dar lugar a decisiones injustas y discriminatorias.
Consciente de ello, el legislador europeo estableció en el artículo 22, apartado 1, del RGPD lo siguiente: «Todo interesado tiene derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar».
Para que se active este derecho, la decisión debe adoptarse únicamente por medios automatizados, es decir, sin intervención humana significativa. Determinar el grado real de intervención humana en cada caso puede resultar complejo.
Según el artículo 22, apartado 2, del RGPD, el tratamiento automatizado solo se permite en los siguientes casos:
- Cuando sea necesario para la celebración o ejecución de un contrato entre el interesado y el responsable del tratamiento.
- Cuando esté autorizado por el Derecho de la Unión o de los Estados miembros, con medidas adecuadas para salvaguardar los derechos, libertades e intereses legítimos del interesado.
- Cuando se base en el consentimiento explícito del interesado.
En los casos a) y c), el responsable del tratamiento debe garantizar el derecho del interesado a obtener intervención humana, expresar su punto de vista e impugnar la decisión.
La información sobre la lógica aplicada al tratamiento automatizado debe ser concisa, transparente, inteligible, de fácil acceso y suficiente como para que el interesado pueda saber cómo funciona el sistema de IA que tomará la decisión basada en sus datos personales.
Si el interesado no está de acuerdo con la automatización de la decisión, puede negar su consentimiento. El problema radica en que, si no consiente, probablemente pierda la oportunidad de acceder al producto o servicio —por ejemplo, un préstamo—, lo que genera una asimetría real de poder en la negociación.
Límites al tratamiento automatizado.
El RGPD establece límites específicos para el tratamiento de categorías especiales de datos (aquellos que revelan el origen étnico o racial, opiniones políticas, convicciones religiosas o filosóficas, afiliación sindical, datos genéticos, biométricos para identificación unívoca, datos relativos a la salud, vida sexual u orientación sexual).
En estos casos, la decisión automatizada solo se autoriza si el interesado ha dado su consentimiento explícito. El responsable debe garantizar la libertad de elección de los usuarios: al solicitar el consentimiento, se deben ofrecer alternativas viables y equivalentes a la decisión automatizada. Además, se garantizará que, si el interesado opta por no someterse a ella, no se introduzca un sesgo perjudicial para sus intereses. Si no se cumplen estas condiciones, el consentimiento no se considera libre. Dichas medidas deben integrarse desde la fase de diseño del tratamiento.
Otro supuesto en el que se admite el tratamiento automatizado de datos de categorías especiales es por razones de interés público esencial, con medidas adecuadas de protección.
Conclusión
A modo de reflexion final, cabe preguntar: Las salvaguardas legales actuales, ¿son suficientes o estamos normalizando la discriminacion algorítmica en el acceso a servicios esenciales?
Aunque el Reglamento de Inteligencia Artificial introduce obligaciones de transparencia, evaluación de riesgos y supervisión para los sistemas de IA de alto riesgo, en la práctica muchas decisiones que afectan a derechos fundamentales quedan fuera de este marco, ya que solo una parte de los algoritmos utilizados en sectores clave están sujetos a registro y supervisión obligatoria, dejando un amplio margen para que los algoritmos operen sin suficiente control externo.
Casos recientes en la Unión Europa han evidenciado cómo la falta de transparencia y control puede derivar en discriminación algorítmica sistémica. Por ejemplo, en Suecia los algoritmos utilizados por la Agencia de Seguridad Social (Försäkringskassan) han discriminado a colectivos vulnerables, como personas con discapacidad, madres solteras o residentes en barrios desfavorecidos, al ser etiquetados injustamente como «riesgo de fraude». Estos sesgos suelen originarse porque los sistemas de IA se entrenan con datos históricos que reflejan prejuicios sociales existentes, perpetuando y, en ocasiones, agravando las desigualdades sociales.
La regulación vigente prohíbe las prácticas discriminatorias y exige transparencia, pero presenta limitaciones estructurales, así, la información sobre la lógica de los algoritmos suele ser demasiado técnica o poco accesible para los ciudadanos, lo que dificulta el ejercicio efectivo de sus derechos.
No se pierda nuestro podcast sobre el artículo
