La Ley 22/2021, de 28 de diciembre, de Presupuestos Generales del Estado para el año 2022, en su Disposición adicional centésimo trigésima, autorizó al Gobierno a impulsar la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA).
La Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes , conocida como Ley de Startups, también prevé la «creación de la Agencia Española de Supervisión de Inteligencia Artificial» en su Disposición adicional séptima.
La AESIA se configura como un ente con personalidad jurídica pública, con patrimonio propio y autonomía en su gestión y potestad administrativa. Adscrita al Ministerio para la Transformación Digital y de la Función Pública, a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial, actuará con independencia orgánica y funcional de las Administraciones Públicas y de forma objetiva, transparente e imparcial, llevando a cabo medidas destinadas a la minimización de riesgos significativos por el uso de sistemas de inteligencia artificial sobre la seguridad y la salud de las personas, así como sobre los derechos fundamentales.
Se regirá por lo establecido en su Estatuto, aprobado mediante el Real Decreto 729/2023, de 22 de agosto, y por la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público.
Su estructura se divide en dos tipos de órganos: de gobierno (presidencia y consejo rector, del cual depende la comisión de control) y ejecutivos (dirección, secretaría general, subdirección de informes e infraestructuras de prueba y la subdirección de certificación, evaluación de tendencias, coordinación y formación de inteligencia artificial).
La presidencia la ostentará la persona titular de la Secretaría de Estado de Digitalización e Inteligencia Artificial. La dirección general recae en Ignasi Belda Reig, seleccionado entre 106 candidatos, destacando por su labor investigadora y su doctorado en inteligencia artificial aplicada a la biomedicina.
En cuanto al Consejo Rector, se compondrá de un director y siete vocalías, de las cuales seis serán ejercidas por representantes de Ministerios: cuatro del Ministerio para la Transformación Digital y de la Función Pública, uno de Hacienda y otro de Industria, Comercio y Turismo. Sólo una de las siete vocalías se reserva a una persona experta que represente al ecosistema en el ámbito de la inteligencia artificial, que habrá de ser nombrada a propuesta conjunta del Consejo Asesor de Inteligencia Artificial y la Comisión Permanente de Digitalización de la Economía, la Administración y la Ciudadanía.
La AESIA contará con un cuerpo de inspección propio. Se espera que esté operativo en el primer trimestre del año 2025 según informó el director general del organismo.
Organigrama de la AESIA
Objetivos y competencias
De acuerdo a su Estatuto, entre sus objetivos se encuentran los siguientes:
- Promoción del uso responsable, sostenible y confiable de la inteligencia artificial.
- Concienciación, divulgación y promoción de la formación en materia de inteligencia artificial.
- Definición de mecanismos de asesoramiento y atención relacionados con el desarrollo y el uso de la inteligencia artificial.
- Promoción de la colaboración público–privada y la coordinación con otras autoridades de supervisión de la inteligencia artificial.
- Fomento de la creación de entornos reales de prueba de los sistemas de inteligencia artificial para reforzar la protección de los usuarios y minimizar los riesgos en campos como la seguridad, la intimidad y la salud de las personas.
Entre sus competencias se encuentran:
- Promocionar entornos de prueba que permitan la adaptación de soluciones innovadoras de inteligencia artificial a los marcos jurídicos en vigor.
- Apoyar el desarrollo y el uso de sistemas de inteligencia artificial desde una doble perspectiva: ambiental y sostenible.
- Ayudar al fortalecimiento de la confianza en la tecnología y aplicación de la inteligencia artificial, a través de la creación de un marco de certificación voluntario para entidades privadas, que permita ofrecer garantías sobre el diseño responsable de soluciones digitales, garantizando los estándares técnicos, evitando la sobrerregulación y permitiendo la innovación.
- Instrumentalizar mecanismos de identificación de tendencias y evaluación del impacto social en materia de inteligencia artificial.
- Alinear y coordinar las iniciativas de terceros relacionadas con la aplicación de los sistemas de inteligencia artificial.
- Crear conocimiento, formación y difusión en relación con la inteligencia artificial ética y humanista.
- Dinamizar el mercado para potenciar iniciativas y prácticas innovadoras y transformadoras en el ámbito de la inteligencia artificial.
- Impulsar la colaboración público–privada.
- Ayudar a la ejecución de programas en el ámbito de la inteligencia artificial a través de acuerdos, convenios o cualquier otro instrumento legalmente previsto para apoyar en la ejecución de programas relacionados con la inteligencia artificial.
- Supervisar los sistemas de inteligencia artificial para garantizar el cumplimiento de la normativa.
- Cualquier otra función que pudiera ser atribuible a la Agencia por motivo de aplicación de la normativa nacional y europea, incluida la capacidad sancionadora.
El Comité Europeo de Protección de Datos (CEPD) llama la atención de la Comisión Europea y de la Oficina de Inteligencia Artificial de la Unión Europea, en la Declaración 3/2024 sobre el papel de las autoridades de protección de datos en la Marco de la Ley de Inteligencia Artificial, que dejo enlazada aquí, sobre la necesidad de cooperar entre las autoridades nacionales y el CEPD en base al principio de cooperación leal.
Designación de la sede. Candidaturas y polémica
La AESIA se ubica en el edificio La Terraza, obra de los arquitectos Antonio de Mesa y Pedro Mariño. De estilo eclético–modernista fue inaugurado el 30 de junio de 1922 con 1.961 m2 de superficie. El edificio ha tenido múltiples usos en sus cien años de historia, convirtiéndose en un referente de la actividad social y cultural de la ciudad.
El Ministerio de Transformación Digital y de la Función Pública solicitó al Ayuntamiento de A Coruña, propietario del inmueble, una reforma interior integral, para acomodarlo a las necesidades del nuevo organismo. En principio, se había planteado una reforma parcial, pero el Ministerio exige más espacio del previsto. Este contratiempo retrasará la puesta en uso de la sede oficial. Desde el Ayuntamiento se ha propuesto una ubicación alternativa, a la espera de rematar las obras, en el Centro Municipal de Empresas (Accede Papagaio), si bien no se ha materializado. La AESIA comenzó su actividad en septiembre de 2024, desde Madrid, a la espera de su traslado a definitivo a la ciudad herculina.
La designación de la sede fue polémica, causando un enfrentamiento entre el gobierno central y el de Andalucía, hasta el punto de requerir la intervención del Tribunal Supremo. Veamos cómo sucedieron los hechos y cómo se resolvió el conflicto.
En el marco del Real Decreto 209/2022, de 22 de marzo, promulgado para la descentralización de entidades públicas hasta ahora inexistentes, bajo los principios de vertebración, equilibrio territorial y adecuación al sector de actividad, Galicia se postuló como candidata para albergar a este organismo público de nueva creación.
La candidatura de Galicia fue impulsada por la Axencia para a Modernización Tecnolóxica de Galicia y contó con el apoyo de grandes tecnológicas internacionales como Microsoft, Amazon Web Services, Google Cloud, NTT Data o DXC Technology. Recibió el apoyo de grandes tecnológicas españolas como Telefónica, Euskaltel-R, Altia o Indra y contó con el impulso de asociaciones empresariales como el Clúster TIC de Galicia, la Cámara de Comercio de Santiago, la Asociación Galega de Software Libre, la Asociación Multisectorial de Nuevas Tecnologías de Información y Comunicación y fundaciones como Fundación Barrié y Afundación junto con los colegios profesionales de Ingenieros e Ingenieros Técnicos en Informática e Ingenieros en Telecomunicaciones de Galicia. Además de empresas que utilizan sistemas de inteligencia artificial como Stellantis, Abanca, Grupo Copo, Finsa, Gadisa, Vegalsa o Hijos de Rivera. En total, más de 40 entidades apoyaron la candidatura gallega.
También expresaron su apoyo instituciones públicas, centros tecnológicos y «hubs» de innovación digital como Aimen, Anfaco–Cecopesca, Cetim, CTAG, DIH DataLife, Dihgigal, Energy Lab, Gradiant o el Instituto Tecnológico de Galicia junto con la Xunta de Galicia y la Agrupación Europea de Cooperación Territorial Galicia–Norte de Portugal.
Entre sus infraestructuras, Galicia alberga el segundo supercomputador del Estado, solo superado por el MareNostrum de Barcelona. Se trata del FinisTerrae III, tercera evolución del superordenador del Centro de Supercomputación de Galicia (CESGA), aunque está anunciada una cuarta versión En la actualidad, da servicio a más de 70 empresas.
A Coruña y su área metropolitana destacan por la fortaleza del sector TIC, concentrando a más de 700 empresas (el 27% del total de Galicia) con más de 7.200 empleos (el 40% del empleo del sector). El desarrollo de la futura «Cidade das TIC», en los terrenos de la antigua Fábrica de Armas Santa Bárbara, contempla varios centros de investigación e innovación, aparte de espacios compartidos, un vivero, un acelerador empresarial y un plato virtual de 1.600 metros cuadrados.
Galicia también contará con uno de los mayores centros de datos de España en la localidad coruñesa de Curtis. El Green Data Center estará promovido por el Grupo Ingenostrum y la sociedad Impulsa. Comenzará a construirse en el año 2025.
El sector TIC en Galicia se acerca a los 23.000 empleos directos, situándose como la quinta comunidad autónoma en número de empresas. En 2022 el volumen de facturación de estas rondó los 3.700 millones de euros.
La candidatura gallega estaba reforzada por la presencia del Centro Singular de Investigación en Tecnologías Inteligentes (CITIUS), el Centro de Investigación en Tecnologías de la Información y las Comunicaciones (CITIC) y el Laboratorio de Investigación y Desarrollo en Inteligencia Artificia (LIDIA).
La duda estaba entre las ciudades de A Coruña y Santiago de Compostela, si bien fue A Coruña la candidata. La ciudad de Ourense, también se postuló, pero con nulas opciones.
La otra gran candidatura fue la de Granada.
La Junta de Andalucía elaboró un informe de Identificación de las capacidades andaluzas en el ámbito de la inteligencia artificial, en el que identificaron hasta 189 entidades con actividad y capacidad de investigación en la materia. De ellas, 110 son firmas, 56 pertenecen al sistema andaluz del conocimiento y 23 son infraestructuras científicas y tecnológicas.
Otros avales de la candidatura de Granada fueron el Parque Tecnológico de la Salud, el centro de inteligencia artificial de la Universidad de Granada, el ecosistema AImpulsa y la llegada de grandes tecnológicas como Google o Deutsche Telecom.
En total, se recibieron dentro del plazo estipulado catorce candidaturas: A Coruña, Granada, Alicante, Barcelona, Gijón, Guadalajara, Jerez de la Frontera, Leganés, Ourense, Palma, Salamanca, Santa Cruz de Tenerife, Segovia y Zaragoza. Fuera de plazo, se recibieron dos candidaturas más, procedentes de los Ayuntamientos de Onda y Sant Cugat del Vallés, que fueron admitidas a concurso, pues se constató la existencia de problemas técnicos que impidieron que las solicitudes entraran en plazo.
Entre las candidaturas presentadas, las de A Coruña, Granada y Alicante fueron calificadas por la Comisión Consultiva constituida al efecto de «excelentes», si bien la elegida fue A Coruña (haciendo clic aquí pueden consultar la resolución del Gobierno que fue objeto de impugnación).
La resolución del ejecutivo nacional no fue aceptada, de buen grado, por la candidatura de Granada. Contra la misma se presentaron tres recursos ante el Tribunal Supremo: el de la asociación Juntos por Granada, el de la Universidad de Granada y el del Ayuntamiento de Granada. En defensa de A Coruña como sede de la AESIA se personó el Ayuntamiento de la ciudad.
El recurso de Juntos por Granada no fue admitido a trámite por el Tribunal Supremo por falta de legitimación, pues «acciona desde un interés genérico, amplio, omnicomprensivo, propio de una acción popular no prevista en la norma procedimental aplicada». La Universidad de Granada desistió de su recurso, quedando el del Ayuntamiento de Granada como único recurso.
La representación del Ayuntamiento de Granada solicitó, en un primer momento, al Tribunal Supremo la suspensión cautelar de la designación que fue rechazada por Auto de 10 de julio de 2023, bajo el argumento de que no existe «perículum in mora», es decir, riesgo de que la situación sea irreversible. El Alto Tribunal también dio la razón a la Abogacía del Estado, en que no concurría la apariencia de buen derecho, que solo es aplicable en casos en los «que sea perceptible a simple vista la ilegalidad de la actuación». Por último, añadía que los argumentos aportados por el Ayuntamiento de Granada «se refieren a aspectos que habrá que resolver al afrontar el fondo del litigio».
En la tramitación del recurso, el Tribunal Supremo requirió al Gobierno la presentación del expediente, faltando las tablas de valoración y la puntuación detallada obtenida por las candidaturas. El Gobierno argumentó que el Real Decreto 209/2022 no prescribe una metodología concreta para la elaboración del informe sobre la relación de criterios ni para el dictamen en el que se analicen las propuestas, por lo que «no ha lugar a la exigencia de una valoración numérica o cuantificable para cada criterio».
El 28 de noviembre de 2023, la Sección Cuarta, de la Sala de lo Contencioso-Administrativo, del Tribunal Supremo dictó la Sentencia nº 1582/2023 desestimando el recurso del Ayuntamiento de Granada con imposición de costas (tasadas en 4.000 €).
Los magistrados señalan que la decisión del ejecutivo es un «acto discrecional motivado del Consejo de Ministros que puede seguir o no la recomendación efectuada de la Comisión Consultiva» (Granada figuraba como primera en la lista), al tiempo que advierten que «un determinado orden en un listado sujeto a los condicionantes antedichos no crea expectativa alguna en una concreta postulante que quiebre el principio de confianza legítima, garantizado por el artículo 9.3 de la CE si, finalmente, se resuelve de otro modo. Debemos insistir en que el acuerdo del Consejo de Ministros no debe atender a la candidatura con mayor puntuación, sino a una de las candidaturas «de excelencia», eso sí explicitando las razones de la decisión mediante la correspondiente motivación aquí existente, por lo que tampoco se ha lesionado el principio de objetividad bajo el que debe realizar su actividad la Administración pública (artículo 103 de la CE)».
Sea como fuere, en el proceso de descentralización de entidades públicas hasta ahora inexistentes, Andalucía no ha salido perjudicada, pues Sevilla albergará la sede de la Agencia Espacial Española. En Sevilla también se encuentra el Centro Europeo para la Transparencia Algorítmica.
En cuanto a Granada, el Ministerio de Asuntos Económicos y Transformación Digital firmó un acuerdo con ADIA LAB –uno de los principales laboratorios del mundo en investigación de inteligencia artificial, big data y ciencias computacionales– para que abra su sede europea en Granada. A mayores, la ciudad albergará un nuevo centro nacional de administración digital integrada.
Conclusiones
España se convertirá en el primer Estado miembro de la Unión con una agencia estatal de supervisión de la inteligencia artificial, anteponiéndose a la entrada en vigor del Reglamento de Inteligencia Artificial que establece la obligatoriedad de que los Estados miembros cuenten con una autoridad supervisora en esta materia. Además, servirá de banco de pruebas para ensayar la aplicación del citado Reglamento en un entorno controlado («sandbox»).
Aparte de la supervisión de la AESIA, el desarrollo de la inteligencia artificial estará sometida a los dictámenes de la Comisión Europea, a través de la Oficina Europea de Inteligencia Artificial, el Comité Europeo de Inteligencia Artificial, el Grupo de expertos científicos independientes creado en virtud del artículo 68 del Reglamento de Inteligencia Artificial y el Supervisor Europeo de Protección de Datos. Demasiada burocracia para algunos.
No cabe duda de que la supervisión de determinados sistemas de inteligencia artificial, por cuanto puedan afectar a los derechos y libertades de las personas, es necesaria. Los algoritmos pueden causar discriminaciones, exclusiones, desigualdades, brechas digitales, incluso pueden convertirse en una amenaza para la diversidad cultural, social o biológica, por los sesgos que se pudieran incorporar en su programación, por su uso indebido o malicioso o por la vigilancia masiva, entre otros factores. Ahora bien, un control desmedido puede suponer un desincentivo a la inversión privada, así que la AESIA tendrá que hallar la virtud en el término medio. En caso contrario corremos el riesgo de perder el tren de la inteligencia artificial. El hecho es que, actualmente, en la Unión Europea no hay ninguna empresa que destaque en el desarrollo de sistemas de inteligencia artificial, lo cual es preocupante. Estados Unidos y China nos llevan años de ventaja. La duda es si, algún día, seremos capaces de alcanzarles.
—
Más información sobre la inteligencia artificial
Si quieren saber más sobre la inteligencia artificial hagan clic en los siguientes enlaces:
- Reglamento de Inteligencia Artificial. Resumen (lectura recomendada)
- Sandbox regulatorio de la inteligencia artificial
- Riesgos de la Inteligencia Artificial
- Principios éticos sobre Inteligencia Artificial
- Directrices para una Inteligencia Artificial fiable
- La inteligencia artificial para luchar contra la pederastia
- Inspección de Trabajo y Seguridad Social comenzará a usar Inteligencia Artificial
- Algoritmos de la Agencia Tributaria
- Blockchain vs. Notarios y Registradores
- Contratos Inteligentes o Smart Contracts
- Conducción Autónoma y Ciberseguridad
- DGT 3.0
- Metaverso y privacidad
- Ciencia ficción y protección de datos
- Deepfakes
- Riesgos ChatGPT
- Los riesgos de TikTok
- La necesaria supervisión de la inteligencia artificial
- Proyecto LEIA
- Resolución del Parlamento Europeo sobre la industria del videojuego
- Il Garante de la privacidad limita la inteligencia artificial
- Pausar experimentos gigantes de la inteligencia artificial
- El desarrollo imparable de la inteligencia artificial
- El fin de la realidad
- Las cloacas de la inteligencia artificial
- Centro Europeo de Transparencia Algorítmica
- Creaciones generadas por la inteligencia artificial
- Estándares universales para la inteligencia artificial
- El algoritmo maligno: Chaos–GPT
- Inteligencia artificial y derechos de autor
- Sistemas biométricos para control de accesos a recintos deportivos
- Algoritmos injustos
- Ordenación del medio rural mediante la inteligencia artificial
- Herramientas de inteligencia artificial para reconocimiento facial: PimEyes y FaceCheck
- Tracking Exposed: Investigación de algoritmos
- Biden aprueba una orden ejecutiva para regular la inteligencia artificial
- Declaración de Bletchley
- Proceso de Hiroshima sobre inteligencia artificial
- Datos sintéticos
- Cláusulas contractuales tipo para la contratación de la inteligencia artificial
- Responsabilidad por daños de los robots
- No clonen su voz
- ¿Clonar nuestra voz?
- Meta usará información personal para entrenar a la inteligencia artificial
- Consejo Asesor Internacional de Inteligencia Artificial
- Declaración de Cartagena de Indias sobre inteligencia artificial
- Expertos de la ONU informan sobre el futuro de la IA
- Usos de sistemas de inteligencia artificial generativa en el sector público
- Leopold Aschenbrenner
- Chats románticos y privacidad
- ¿Sabría explicar qué es la inteligencia artificial?
