Agencia Española de Supervisión de la Inteligencia Artificial (AESIA)

La Ley 22/2021, de 28 de diciembre, de Presupuestos Generales del Estado para el año 2022, en su Disposición adicional centésimo trigésima, autorizó al Gobierno a impulsar la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA).

Adscrita al Ministerio para la Transformación Digital y de la Función Pública, a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial, la AESIA cuenta con una dotación presupuestaria inicial de 5 millones de euros, aunque se prevén mayores recursos gracias a los ingresos propios derivados de sus actividades, las aportaciones voluntarias y patrocinios y las transferencias de los Presupuestos Generales del Estado.

La Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes , conocida como Ley de Startups, también prevé la «creación de la Agencia Española de Supervisión de Inteligencia Artificial» en su Disposición adicional séptima.

La nueva Agencia estatal se configura como un ente con personalidad jurídica pública, con patrimonio propio y autonomía en su gestión y potestad administrativa que actuará con plena independencia orgánica y funcional de las Administraciones Públicas, de forma objetiva, transparente e imparcial, llevando a cabo medidas destinadas a la minimización de riesgos significativos sobre la seguridad y salud de las personas, así como sobre los derechos fundamentales que puedan derivarse del uso de sistemas de inteligencia artificial.

Su estructura se divide en dos tipos de órganos: de gobierno (presidencia y consejo rector, del cual depende la comisión de control) y ejecutivos (dirección, secretaría general, subdirección de informes e infraestructuras de prueba y la subdirección de certificación, evaluación de tendencias, coordinación y formación de inteligencia artificial).

La presidencia la ostentará la persona titular de la Secretaría de Estado de Digitalización e Inteligencia Artificial. En cuanto al consejo rector, se compondrá de un director/a y siete vocalías, de las cuales seis serán ejercidas por representantes de Ministerios: cuatro del Ministerio de Asuntos Económicos y Transformación Digital, uno de Hacienda y otro de Industria, Comercio y Turismo. Sólo una de las siete vocalías se reserva a una persona experta que represente al ecosistema en el ámbito de la inteligencia artificial, que habrá de ser nombrada a propuesta conjunta del Consejo Asesor de Inteligencia Artificial y la Comisión Permanente de Digitalización de la Economía, la Administración y la Ciudadanía. Dicha composición no resulta del agrado de todos, pues permite la injerencia del Gobierno de turno en la AESIA, cuando a ésta se le presume independencia y objetividad.

La AESIA se regirá por lo establecido en su Estatuto, aprobado mediante el Real Decreto 729/2023, de 22 de agosto, y en la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público.

Objetivos y competencias

De acuerdo a su Estatuto, entre sus objetivos se encuentran los siguientes:

Promoción del uso responsable, sostenible y confiable de la inteligencia artificial.
Concienciación, divulgación y promoción de la formación en materia de inteligencia artificial.
Definición de mecanismos de asesoramiento y atención relacionados con el desarrollo y el uso de la inteligencia artificial.
Promoción de la colaboración público–privada y la coordinación con otras autoridades de supervisión de la inteligencia artificial.
Fomento de la creación de entornos reales de prueba de los sistemas de inteligencia artificial para reforzar la protección de los usuarios y minimizar los riesgos en campos como la seguridad, la intimidad y la salud de las personas.

Entre sus competencias se encuentran:

Promocionar entornos de prueba que permitan la adaptación de soluciones innovadoras de inteligencia artificial a los marcos jurídicos en vigor.
Apoyar el desarrollo y el uso de sistemas de inteligencia artificial desde una doble perspectiva: ambiental y sostenible.
Ayudar al fortalecimiento de la confianza en la tecnología y aplicación de la inteligencia artificial, a través de la creación de un marco de certificación voluntario para entidades privadas, que permita ofrecer garantías sobre el diseño responsable de soluciones digitales, garantizando los estándares técnicos, evitando la sobrerregulación y permitiendo la innovación.
Instrumentalizar mecanismos de identificación de tendencias y evaluación del impacto social en materia de inteligencia artificial.
Alinear y coordinar las iniciativas de terceros relacionadas con la aplicación de los sistemas de inteligencia artificial.
Crear conocimiento, formación y difusión en relación con la inteligencia artificial ética y humanista.
Dinamizar el mercado para potenciar iniciativas y prácticas innovadoras y transformadoras en el ámbito de la inteligencia artificial.
Impulsar la colaboración público–privada.
Ayudar a la ejecución de programas en el ámbito de la inteligencia artificial a través de acuerdos, convenios o cualquier otro instrumento legalmente previsto para apoyar en la ejecución de programas relacionados con la inteligencia artificial.
Supervisar los sistemas de inteligencia artificial para garantizar el cumplimiento de la normativa.
Cualquier otra función que pudiera ser atribuible a la Agencia por motivo de aplicación de la normativa nacional y europea, incluida la capacidad sancionadora.

Designación de la sede. Candidaturas y polémica

En el marco del Real Decreto 209/2022, de 22 de marzo, promulgado para la descentralización de entidades públicas hasta ahora inexistentes, bajo los principios de vertebración, equilibrio territorial y adecuación al sector de actividad, Galicia se postuló como candidata para albergar a este organismo público de nueva creación.

La candidatura de Galicia fue impulsada por la Axencia para a Modernización Tecnolóxica de Galicia y contó con el apoyo de grandes tecnológicas internacionales como Microsoft, Amazon Web Services, Google Cloud, NTT Data o DXC Technology. Asimismo, recibió el apoyo de grandes tecnológicas españolas como Telefónica, Euskaltel-R, Altia o Indra. Contó, también, con el impulso de asociaciones empresariales como el Clúster TIC de Galicia, la Cámara de Comercio de Santiago, la Asociación Galega de Software Libre, la Asociación Multisectorial de Nuevas Tecnologías de Información y Comunicación y fundaciones como Fundación Barrié y Afundación junto con los colegios profesionales de Ingenieros e Ingenieros Técnicos en Informática e Ingenieros en Telecomunicaciones de Galicia y empresas que utilizan sistemas de inteligencia artificial como Stellantis, Abanca, Grupo Copo, Finsa, Gadisa, Vegalsa o Hijos de Rivera. En total, más de 40 entidades apoyaron la candidatura gallega.

También expresaron su apoyo instituciones públicas, centros tecnológicos y «hubs» de innovación digital como Aimen, Anfaco–Cecopesca, Cetim, CTAG, DIH DataLife, Dihgigal, Energy Lab, Gradiant o el Instituto Tecnológico de Galicia junto con la Xunta de Galicia y la Agrupación Europea de Cooperación Territorial Galicia–Norte de Portugal.

Entre sus infraestructuras, Galicia alberga el segundo supercomputador del Estado, sólo superado por el MareNostrum de Barcelona. Se trata del FinisTerrae III, tercera evolución del superordenador del Centro de Supercomputación de Galicia (CESGA). En la actualidad, da servicio a unas 70 empresas.

A Coruña y su área metropolitana destacan por la fortaleza del sector TIC, concentrando a más de 700 empresas (el 27% del total de Galicia) con más de 7.200 empleos (el 40% del empleo del sector). El desarrollo de la futura «Cidade das TIC», en los terrenos de la antigua Fábrica de Armas Santa Bárbara, contempla varios centros de investigación e innovación, aparte de espacios compartidos (coworking), un vivero y un acelerador empresarial y un plato virtual de 1.600 metros cuadrados.

La candidatura gallega viene reforzada por la presencia del Centro Singular de Investigación en Tecnologías Inteligentes (CITIUS), el Centro de Investigación en Tecnologías de la Información y las Comunicaciones (CITIC) y el Laboratorio de Investigación y Desarrollo en Inteligencia Artificia (LIDIA).

La duda estaba entre las ciudades de A Coruña y Santiago de Compostela, si bien fue A Coruña la candidata. La ciudad de Ourense, también se postuló, pero con nulas opciones.

La otra gran candidatura fue la de Granada.

La Junta de Andalucía elaboró un informe de Identificación de las capacidades andaluzas en el ámbito de la inteligencia Artificial, en el que identificaron hasta 189 entidades con actividad y capacidad de investigación en la materia. De ellas, 110 son firmas, 56 pertenecen al sistema andaluz del conocimiento y 23 son infraestructuras científicas y tecnológicas.

Otros avales de la candidatura de Granada fueron el Parque Tecnológico de la Salud, el centro de inteligencia artificial de la Universidad de Granada, el ecosistema AImpulsa y la llegada, ya confirmada, de grandes tecnológicas como Google, Indra o Deutsche Telecom.

Otras candidaturas

Se recibieron en total, dentro del plazo estipulado, catorce candidaturas: A Coruña, Granada, Alicante, Barcelona, Gijón, Guadalajara, Jerez de la Frontera, Leganés, Ourense, Palma, Salamanca, Santa Cruz de Tenerife, Segovia y Zaragoza, siendo las favoritas las dos primeras.

Fuera de plazo, se recibieron dos candidaturas más, procedentes de los Ayuntamientos de Onda y Sant Cugat del Vallés, que fueron admitidas a concurso, pues se constató la existencia de problemas técnicos que impidieron que las solicitudes entraran en plazo.

Resolución del Tribunal Supremo al recurso del Ayto. de Granada

Entre las candidaturas presentadas, las de A Coruña, Granada y Alicante fueron calificadas por la Comisión Consultiva constituida al efecto de «excelentes», si bien la elegida fue A Coruña (haciendo clic aquí pueden consultar la resolución del Gobierno que fue objeto de impugnación).

La resolución del ejecutivo nacional no fue aceptada, de buen grado, por la candidatura de Granada. Contra la misma se presentaron tres recursos ante el Tribunal Supremo: el de la asociación Juntos por Granada, el de la Universidad de Granada y el del Ayuntamiento de Granada. En defensa de A Coruña como sede de la AESIA se personó el Ayuntamiento de la ciudad.

El recurso de Juntos por Granada no fue admitido a trámite por el Tribunal Supremo por falta de legitimación, pues «acciona desde un interés genérico, amplio, omnicomprensivo, propio de una acción popular no prevista en la norma procedimental aplicada». La Universidad de Granada desistió de su recurso, quedando el del Ayuntamiento de Granada como único recurso.

La representación del Ayuntamiento de Granada solicitó, en un primer momento, al Tribunal Supremo la suspensión cautelar de la designación, que fue rechazada por Auto de 10 de julio de 2023, bajo el argumento de que no existe «periculum in mora», es decir, riesgo de que la situación sea irreversible. El Alto Tribunal también da la razón a la Abogacía del Estado, en que no concurre la apariencia de buen derecho, que sólo es aplicable en casos en los «que sea perceptible a simple vista la ilegalidad de la actuación». Por último, añade que los argumentos aportados por el Ayuntamiento de Granada «se refieren a aspectos que habrá que resolver al afrontar el fondo del litigio».

En la tramitación del recurso, el Tribunal Supremo requirió al Gobierno la presentación del expediente, faltando las tablas de valoración y la puntuación detallada obtenida por las candidaturas. El Gobierno argumentó que el Real Decreto 209/2022 no prescribe una metodología concreta para la elaboración del informe sobre la relación de criterios ni para el dictamen en el que se analicen las propuestas, por lo que «no ha lugar a la exigencia de una valoración numérica o cuantificable para cada criterio».

Cumplidos los trámites legales oportunos, el 28 de noviembre de 2023, la Sección Cuarta, de la Sala de lo Contencioso-Administrativo, del Tribunal Supremo dictó la Sentencia nº 1582/2023, por la que se desestima el recurso del Ayuntamiento de Granada con imposición de costas (tasadas en 4.000 €).

Los magistrados señalan que la decisión del ejecutivo es un «acto discrecional motivado del Consejo de Ministros que puede seguir o no la recomendación efectuada de la Comisión Consultiva» (Granada figuraba como primera en la lista), al tiempo que advierten que «un determinado orden en un listado sujeto a los condicionantes antedichos no crea expectativa alguna en una concreta postulante que quiebre el principio de confianza legítima, garantizado por el artículo 9.3 de la CE si, finalmente, se resuelve de otro modo. Debemos insistir en que el acuerdo del Consejo de Ministros no debe atender a la candidatura con mayor puntuación, sino a una de las candidaturas “de excelencia”, eso sí explicitando las razones de la decisión mediante la correspondiente motivación aquí existente, por lo que tampoco se ha lesionado el principio de objetividad bajo el que debe realizar su actividad la Administración pública (artículo 103 de la CE)».

Sea como fuere, en el proceso de descentralización de entidades públicas hasta ahora inexistentes, Andalucía no ha salido perjudicada, pues Sevilla albergará la sede de la Agencia Espacial Española (en Sevilla también se encuentra el Centro Europeo para la Transparencia Algorítmica).

En cuanto a Granada, el Ministerio de Asuntos Económicos y Transformación Digital firmó un acuerdo con ADIA LAB –uno de los principales laboratorios del mundo en investigación de inteligencia artificial, big data y ciencias computacionales– para que abra su sede europea en Granada. A mayores, la ciudad albergará un nuevo centro nacional de administración digital integrada.

La AESIA se ubicará en el edificio La Terraza. Un icono de la ciudad, sito en los Jardines de Méndez Núñez. Se trata de un edificio de estilo eclético–modernista, inaugurado el 30 de junio de 1922 con 1.961 m²de superficie.

Conclusiones

España se convierte en el primer Estado miembro de la Unión Europea con una agencia estatal de supervisión de la inteligencia artificial, anteponiéndose a la entrada en vigor del futuro reglamento de inteligencia artificial que establecerá la obligatoriedad de que los Estados miembros cuenten con una autoridad supervisora en esta materia.

La supervisión de los sistemas de inteligencia artificial es indispensable. Los algoritmos pueden causar discriminaciones, exclusiones, desigualdades, brechas digitales, incluso pueden convertirse en una amenaza para la diversidad cultural, social o biológica, por los sesgos que se pudieran incorporar en su programación, por su uso indebido o malicioso o por la vigilancia masiva, entre otros factores. Ahora bien, un control desmedido puede suponer un desincentivo a la inversión privada, así que la AESIA tendrá que hallar la virtud en el término medio.

Edificio La Terraza, sede de la AESIA, sito en la Avenida Jardines de Méndez Álvaro nº 5 de A Coruña

—

Más información sobre la inteligencia artificial

Si quieren saber más sobre la inteligencia artificial hagan clic en los siguientes enlaces:

PARA ESTAR AL DÍA EN PROTECCIÓN DE DATOS Y SEGURIDAD DE LA INFORMACIÓN