En cumplimiento del artículo 96.1.f) del Reglamento de Inteligencia Artificial (RIA), la Comisión Europea publicó el 6 de febrero de 2025 sus Directrices sobre la definición de un sistema de inteligencia artificial establecidas por el Reglamento de IA.
El RIA no se aplica a todos los sistemas de IA, solo a aquellos que cumplen la definición de «sistema de IA» en el sentido del artículo 3.1 del RIA. Por lo tanto, la definición de «sistema de IA» es fundamental para comprender el ámbito de aplicación del RIA y estas directrices precisan los elementos que configuran un «sistema de IA».
El Considerando 12 del RIA establece que el concepto de «sistema de IA» debe definirse con claridad, ofreciendo la flexibilidad necesaria para adaptarse a los rápidos avances tecnológicos en este campo. Por ello, no es posible ni conveniente proporcionar una lista exhaustiva de sistemas de IA; cada caso debe evaluarse atendiendo a sus características específicas, sin aplicación mecánica de la definición.
Definición de «sistema de IA»
El artículo 3.1 del RIA define un «sistema de IA» como «un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe, la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales».
De esta definición se desprenden siete elementos principales, según las directrices:
1. Sistema basado en máquinas
El término «basado en máquinas» se refiere al hecho de que los sistemas de IA requieren de máquinas para su funcionamiento, como el entrenamiento de modelos, el procesamiento de datos, el modelado predictivo y la toma de decisiones automatizada a gran escala.
El término «máquina» incluye los componentes de hardware (unidades de procesamiento, memoria, dispositivos de almacenamiento, unidades de red e interfaces de entrada/salida) como de software (código informático, instrucciones, programas, sistemas operativos y aplicaciones que gestionan cómo el hardware procesa los datos y realiza las tareas).
2. Autonomía
La «autonomía» se refiere al grado en que un sistema de IA puede realizar tareas y generar resultados (predicciones, contenidos, recomendaciones o decisiones) sin intervención humana continua. La referencia a «cierto grado de independencia de acción» en el Considerando 12 del RIA excluye los sistemas diseñados para funcionar con plena intervención humana manual.
El nivel de autonomía es un factor clave para el proveedor a la hora de diseñar, por ejemplo, la supervisión humana del sistema o las medidas de mitigación de riesgos. Los sistemas de IA que pueden funcionar con intervención humana limitada o nula en contextos de uso específicos, como los identificados en los anexos I y III del RIA, pueden generar riesgos potenciales adicionales y requerir supervisión humana.
3. Adaptabilidad
Los conceptos de «autonomía» y «adaptabilidad» son distintos, si bien están relacionados, y aunque suelen abordarse conjuntamente, representan dimensiones diferentes de la funcionalidad de un sistema de IA.
La «adaptabilidad» se refiere a la capacidad de autoaprendizaje que permite que el comportamiento del sistema se modifique durante su uso. Un sistema puede, aunque no necesariamente debe, incorporar capacidad de adaptabilidad o de autoaprendizaje tras su implementación para considerarse un sistema de IA.
En todo caso, la capacidad de un sistema para aprender de forma automática, descubrir nuevos patrones o identificar relaciones en los datos más allá de los utilizados originalmente para su entrenamiento no es un factor determinante para considerar que se trata de un sistema de IA.
4. Objetivos
Los sistemas de IA están diseñados para operar según uno o más objetivos. Los objetivos del sistema pueden definirse explícita o implícitamente.
Los «objetivos explícitos» se refieren a metas establecidas por el desarrollador que codifica el sistema.
Los «objetivos implícitos» se refieren a metas que no se establecen explícitamente, pero que pueden deducirse del comportamiento o de los supuestos subyacentes del sistema, a partir de los datos de entrenamiento o de la interacción del sistema con su entorno.
5. Inferir cómo generar resultados
Los términos «inferir cómo» no se limitan únicamente a una comprensión estrecha del concepto de «inferencia» como la capacidad de un sistema para deducir resultados a partir de datos de entrada. Dicha interpretación no contradice el concepto de «inferencia» de la norma ISO/ IEC 22989 que define la inferencia «como el razonamiento mediante el cual se derivan conclusiones a partir de premisas conocidas». En la IA, una premisa es un hecho, una regla, un modelo, una característica o datos brutos.
Las técnicas que permiten la inferencia durante el desarrollo de un sistema de IA incluyen enfoques de aprendizaje automático y basados en la lógica y el conocimiento que infieren a partir del conocimiento codificado o la representación simbólica de la tarea a resolver.
Respecto a la primera categoría, esto es, enfoques de aprendizaje automático o «machine learning» podemos distinguir:
- Aprendizaje supervisado: el sistema de IA aprende a partir de datos etiquetados que se asocian con la salida correcta. Por ejemplo, un sistema de detección de spam en el correo electrónico basado en IA se entrena, durante su fase de desarrollo, con un conjunto de datos que contiene correos clasificados manualmente como «spam» o «no spam». De este modo, el sistema aprende los patrones característicos de cada categoría. Una vez entrenado, puede analizar nuevos correos electrónicos y clasificarlos como «spam» en función de los patrones previamente aprendidos.
- Aprendizaje no supervisado: el sistema de IA aprende a partir de datos no etiquetados, sin resultados predefinidos. A través de técnicas como la agrupación en clústeres, la reducción de dimensionalidad, el aprendizaje de reglas de asociación, la detección de anomalías o los modelos generativos, el sistema identifica patrones, estructuras o relaciones dentro de los datos sin una guía explícita sobre cuál debe ser el resultado. Un ejemplo de este enfoque son los sistemas empleados por compañías farmacéuticas para el descubrimiento de nuevos fármacos basándose en similitudes con medicamentos existentes.
- Aprendizaje autosupervisado: el sistema de IA aprende a partir de datos no etiquetados, generando sus propias etiquetas u objetivos a partir de la información disponible. Por ejemplo, un sistema de reconocimiento de imágenes puede aprender a identificar objetos prediciendo los píxeles faltantes en una imagen.
- Aprendizaje por refuerzo: el sistema de IA aprende a partir de los datos obtenidos de su propia experiencia. No recibe etiquetas explícitas, sino que mejora mediante un proceso de ensayo y error, ajustando su estrategia en función de la retroalimentación del entorno. Se utiliza, por ejemplo, para optimizar recomendaciones personalizadas en motores de búsqueda o mejorar el rendimiento de vehículos autónomos.
- Aprendizaje profundo (deep learning): este enfoque se basa en arquitecturas de redes neuronales con múltiples capas, que permiten al sistema identificar patrones complejos y realizar predicciones precisas. Constituye una tecnología clave en muchos de los avances recientes en IA. Los asistentes virtuales, como Siri o Alexa, emplean aprendizaje profundo para reconocer el habla humana analizando grandes volúmenes de datos de voz. En el caso de los vehículos autónomos, se utiliza para procesar información proveniente de sensores y cámaras y tomar decisiones en tiempo real.
La segunda categoría de técnicas de aprendizaje, mencionada en el Considerando 12 del RIA, son los «enfoques basados en la lógica y el conocimiento que infieren a partir del conocimiento codificado o la representación simbólica de la tarea a resolver». En lugar de aprender de los datos, estos sistemas aprenden del conocimiento, incluyendo reglas, hechos y relaciones codificadas por expertos humanos. Estos sistemas pueden «razonar» mediante motores deductivos o inductivos o utilizando operaciones como la ordenación, la búsqueda, la correspondencia y el encadenamiento. Al usar la inferencia lógica para extraer conclusiones, aplican lógica formal, reglas predefinidas u ontologías a nuevas situaciones. Como ejemplo tenemos las herramientas para evaluación de riesgo crediticio que emplean las entidades financieras.
6. Capacidad de generar resultados que pueden influir en entornos físicos o virtuales
Un sistema de IA debe tener la capacidad de generar resultados –ya sean predicciones, contenido, recomendaciones o decisiones, utilizando aprendizaje automático, la lógica o enfoques basados en el conocimiento– que puedan influir en entornos físicos o virtuales.
Por ejemplo, los sistemas de IA implementados en automóviles autónomos están diseñados para hacer «predicciones» en tiempo real en entornos complejos y dinámicos, con múltiples tipos de agentes e interacciones, y un número prácticamente infinito de situaciones posibles, y para tomar decisiones para ajustar su comportamiento en consecuencia.
El «contenido» se refiere a la generación de nuevo material por parte de un sistema de IA, ya sea texto, imágenes, vídeos, música u otros tipos de salida. Un ejemplo son los sistemas de IA generativa como ChatGPT.
Las «recomendaciones» se refieren a sugerencias de acciones, productos o servicios específicos para los usuarios a partir de sus preferencias, comportamientos u otros datos. Pueden aprovechar datos a gran escala, adaptarse al comportamiento del usuario en tiempo real, ofrecer recomendaciones altamente personalizadas y escalar eficientemente a medida que crece el conjunto de datos.
Finalmente, las «decisiones» se refieren a las conclusiones o elecciones que realiza un sistema. Implica un proceso totalmente automatizado mediante el cual se produce un resultado determinado en el entorno que lo rodea sin intervención humana.
7. Influencia en el entorno
Los resultados deben poder influir en entornos físicos o virtuales. Esto indica que la influencia de un sistema de IA puede afectar tanto a objetos físicos tangibles, como un brazo robótico o un vehículo autónomo, como a entornos virtuales, como ecosistemas de software.
Conclusión
Las directrices no son jurídicamente vinculantes, pero constituyen una interpretación autorizada de la Comisión Europea, pudiendo influir en la interpretación última del TJUE sobre el Reglamento de IA.
Las directrices se completan con el repositorio sobre prácticas de alfabetización en IA recopiladas por los participantes del Pacto de IA. La lista no es exhaustiva y se actualizará periódicamente.
No se pierda nuestro podcast sobre el artículo
