La Ley 22/2021, de 28 de diciembre, de Presupuestos Generales del Estado para el año 2022, en su Disposición adicional centésimo trigésima, autoriza al Gobierno a impulsar la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA).
Adscrita al Ministerio de Asuntos Económicos y Transformación Digital, a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial, la AESIA cuenta con una dotación presupuestaria inicial de 5 millones de euros, aunque se prevén mayores recursos, gracias a los ingresos propios derivados de sus actividades, las aportaciones voluntarias y patrocinios y las transferencias de los Presupuestos Generales del Estado.
La Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes , conocida como Ley de Startups, también prevé la «creación de la Agencia Española de Supervisión de Inteligencia Artificial» en su Disposición adicional séptima.
La nueva Agencia Estatal se configura como un ente con personalidad jurídica pública, con patrimonio propio y autonomía en su gestión y potestad administrativa, que actuará con plena independencia orgánica y funcional de las Administraciones Públicas, de forma objetiva, transparente e imparcial, llevando a cabo medidas destinadas a la minimización de riesgos significativos sobre la seguridad y salud de las personas, así como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de inteligencia artificial.
Su estructura se divide en dos tipos de órganos: de gobierno (presidencia y consejo rector, del cual depende la comisión de control) y ejecutivos (dirección, secretaría general, subdirección de informes e infraestructuras de prueba y la subdirección de certificación, evaluación de tendencias, coordinación y formación de inteligencia artificial).
La Presidencia la ostentará la persona titular de la Secretaría de Estado de Digitalización e Inteligencia Artificial. En cuanto al Consejo Rector, se compondrá de un Director/a y siete vocalías, de las cuales seis serán ejercidas por representantes de ministerios: cuatro del Ministerio de Asuntos Económicos y Transformación Digital, uno de Hacienda y otro de Industria, Comercio y Turismo. Sólo una de las siete vocalías se reserva a una persona experta que represente al ecosistema en el ámbito de la inteligencia artificial, que habrá de ser nombrada a propuesta conjunta del Consejo Asesor de Inteligencia Artificial y la Comisión Permanente de Digitalización de la Economía, la Administración y la Ciudadanía. Dicha composición no resulta del agrado de todos, pues permite la injerencia del Gobierno de turno en la AESIA, cuando a ésta se le presume independencia y objetividad.
La AESIA se regirá por lo establecido en su Estatuto, aprobado mediante el Real Decreto 729/2023, de 22 de agosto, y en la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público.
Objetivos y competencias
Entre sus objetivos se encuentran los siguientes: promover el desarrollo y uso responsable, sostenible y confiable de la inteligencia artificial; la concienciación, divulgación y promoción de la formación; la definición de mecanismos de asesoramiento y atención relacionados con el desarrollo y uso de la inteligencia artificial; promover la colaboración público–privada y la coordinación con otras autoridades de supervisión de la inteligencia artificial; el fomento de entornos reales de prueba de los sistemas de inteligencia artificial para reforzar la protección de los usuarios y minimizar los riesgos en campos como la seguridad, la intimidad y la salud de las personas. Además, la Agencia tendrá la función de inspección, comprobación, sanción que le atribuya la normativa europea, entre otras.
Entre sus competencias se encuentran las siguientes:
- Promocionar entornos de prueba que permitan la adaptación de soluciones innovadoras de inteligencia artificial a los marcos jurídicos en vigor.
- Apoyar al desarrollo y uso de sistemas de inteligencia artificial desde una doble perspectiva: ambiental y sostenible.
- Apoyar al desarrollo y uso de sistemas de inteligencia artificial con perspectiva de género.
- Ayudar al fortalecimiento de la confianza en la tecnología y aplicación de la inteligencia artificial, a través de la creación de un marco de certificación voluntario para entidades privadas, que permita ofrecer garantías sobre el diseño responsable de soluciones digitales, garantizando los estándares técnicos, evitando la sobrerregulación y permitiendo la innovación.
- Instrumentalizar mecanismos de identificación de tendencias y evaluación del impacto social en materia de inteligencia artificial.
- Alinear y coordinar las iniciativas de terceros relacionadas con la aplicación de los sistemas de inteligencia artificial.
- Crear conocimiento, formación y difusión en relación con la inteligencia artificial ética y humanista.
- Dinamizar el mercado para potenciar iniciativas y prácticas innovadoras y transformadoras en el ámbito de la inteligencia artificial.
- Impulsar la colaboración público–privada.
- Ayudar a la ejecución de programas en el ámbito de la inteligencia artificial a través de acuerdos, convenios o cualquier otro instrumento legalmente previsto para apoyar en la ejecución de programas relacionados con la inteligencia artificial.
- Supervisar los sistemas de inteligencia artificial para garantizar el cumplimiento de la normativa.
- Cualquier otra función que pudiera ser atribuible a la Agencia por motivo de aplicación de la normativa nacional y europea.
La puesta en funcionamiento de la AESIA se producirá con la constitución del Consejo Rector en el plazo máximo de 3 meses desde la entrada en vigor del Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial.
Candidaturas para albergar la AESIA
En el marco del Real Decreto 209/2022, de 22 de marzo, promulgado para la descentralización de entidades públicas hasta ahora inexistentes, bajo los principios de vertebración, equilibrio territorial y adecuación al sector de actividad, Galicia se postuló como candidata para albergar a este organismo público de nueva creación.
La candidatura de Galicia fue impulsada por la Axencia para a Modernización Tecnolóxica de Galicia y contó con el apoyo de grandes tecnológicas internacionales como Microsoft, Amazon Web Services, Google Cloud, NTT Data o DXC Technology. Asimismo, recibió el apoyo de grandes tecnológicas españolas como Telefónica, Euskaltel-R, Altia o Indra. Contó, también, con el impulso de asociaciones empresariales como el Clúster TIC de Galicia, la Cámara de Comercio de Santiago, la Asociación Galega de Software Libre, la Asociación Multisectorial de Nuevas Tecnologías de Información y Comunicación y fundaciones como Fundación Barrié y Afundación junto con los colegios profesionales de Ingenieros e Ingenieros Técnicos en Informática e Ingenieros en Telecomunicaciones de Galicia y empresas que utilizan sistemas de inteligencia artificial como Stellantis, Abanca, Grupo Copo, Finsa, Gadisa, Vegalsa o Hijos de Rivera. En total, más de 40 entidades apoyaron la candidatura gallega.
También expresaron su apoyo instituciones públicas, centros tecnológicos y «hubs» de innovación digital como Aimen, Anfaco–Cecopesca, Cetim, CTAG, DIH DataLife, Dihgigal, Energy Lab, Gradiant o el Instituto Tecnológico de Galicia junto con la Xunta de Galicia y la Agrupación Europea de Cooperación Territorial Galicia–Norte de Portugal.
Entre sus infraestructuras, Galicia alberga el segundo supercomputador del Estado, sólo superado por el MareNostrum de Barcelona. Se trata del FinisTerrae III, tercera evolución del superordenador del Centro de Supercomputación de Galicia (CESGA). En la actualidad, da servicio a unas 70 empresas.
A Coruña y su área metropolitana destacan por la fortaleza del sector TIC, concentrando a más de 700 empresas (el 27% del total de Galicia) con más de 7.200 empleos (el 40% del empleo del sector). La candidatura gallega viene reforzada por la presencia del Centro Singular de Investigación en Tecnologías Inteligentes (CITIUS), el Centro de Investigación en Tecnologías de la Información y las Comunicaciones (CITIC) y el Laboratorio de Investigación y Desarrollo en Inteligencia Artificia (LIDIA). La duda estaba entre las ciudades de A Coruña y Santiago de Compostela, si bien fue A Coruña la candidata. La ciudad de Ourense, también se postuló, pero con nulas opciones.
La otra gran candidatura fue la de Granada. La Junta de Andalucía elaboró un informe de Identificación de las capacidades andaluzas en el ámbito de la Inteligencia Artificial (IA), en el que identificaron hasta 189 entidades con actividad y capacidad de investigación en la materia. De ellas, 110 son firmas, 56 pertenecen al sistema andaluz del conocimiento y 23 son infraestructuras científicas y tecnológicas.
Otros avales de la candidatura de Granada fueron el Parque Tecnológico de la Salud, el centro de inteligencia artificial de la Universidad de Granada, el ecosistema AImpulsa y la llegada, ya confirmada, de grandes tecnológicas como Google, Indra o Deutsche Telecom.
Otras candidaturas
Se recibieron en total, dentro del plazo estipulado, catorce candidaturas: A Coruña, Granada, Alicante, Barcelona, Gijón, Guadalajara, Jerez de la Frontera, Leganés, Ourense, Palma, Salamanca, Santa Cruz de Tenerife, Segovia y Zaragoza, siendo las favoritas las dos primeras.
Fuera de plazo, se recibieron dos candidaturas más, procedentes de los Ayuntamientos de Onda y Sant Cugat del Vallés, que fueron admitidas a concurso, pues se constató la existencia de problemas técnicos que impidieron que las solicitudes entraran en plazo.
Polémica designación de la sede
El Gobierno eligió, finalmente, la ciudad de A Coruña para albergar a la AESIA (haciendo clic aquí pueden consultar la resolución del Gobierno).
La AESIA se ubicará en el edificio La Terraza sito en la Avenida Jardines de Méndez Núñez nº 5. Se trata de un edificio histórico, inaugurado el 30 de junio de 1922, de estilo eclético-modernista, con 1.961 m2 de superficie.
La decisión del ejecutivo nacional no fue aceptada, de buen grado, por la candidatura de Granada. Contra la misma se presentaron tres recursos ante el Tribunal Supremo: el de la asociación Juntos por Granada, el de la Universidad de Granada y el del Ayuntamiento de Granada.
El recurso de Juntos por Granada fue rechazado por el Tribunal Supremo por falta de legitimación, pues «acciona desde un interés genérico, amplio, omnicomprensivo, propio de una acción popular no prevista en la norma procedimental aplicada». La Universidad de Granada desistió de su recurso para unirse al del Ayuntamiento de Granada. En defensa de la designación de A Coruña como sede se personó el Ayuntamiento de la ciudad.
En el campo político, el Presidente de la Junta de Andalucía –Juanma Moreno– instó al ejecutivo nacional a rectificar su decisión con la convocatoria de un nuevo proceso de designación de la sede. El ejecutivo nacional dio la callada por respuesta, a la vez que impulsó la puesta en marcha de la AESIA, mediante el encargó a la consultora Deloitte y a la asociación OdiseIA de los informes necesarios para darle forma.
La representación del Ayuntamiento de Granada solicitó al Tribunal Supremo la suspensión cautelar de la designación, que fue rechazada por Auto de 10 de julio de 2023, bajo el argumento de que no existe «periculum in mora», es decir, riesgo de que la situación sea irreversible. El Tribunal también da la razón a la Abogacía del Estado, en que no concurre la apariencia de buen derecho, que sólo es aplicable en casos en los «que sea perceptible a simple vista la ilegalidad de la actuación». Por último, añade que los argumentos aportados por el Ayuntamiento de Granada «se refieren a aspectos que habrá que resolver al afrontar el fondo del litigio».
En la tramitación del recurso, el Tribunal Supremo requirió al Gobierno la presentación del expediente, faltando las tablas de valoración y la puntuación detallada obtenida por las candidaturas. El Gobierno central argumentó que el Real Decreto 209/2022 no prescribe una metodología concreta para la elaboración del informe sobre la relación de criterios, ni para el dictamen en el que se analicen las propuestas presentadas, por lo que no ha lugar a la exigencia de una valoración numérica o cuantificable para cada criterio.
En el proceso de descentralización de entidades públicas hasta ahora inexistentes, Andalucía se ha visto beneficiada con la designación de la ciudad de Sevilla como sede de la Agencia Espacial Española. En Sevilla se encuentra, también, el Centro Europeo para la Transparencia Algorítmica. Asimismo, el Ministerio de Asuntos Económicos y Transformación Digital firmó un acuerdo con ADIA LAB, uno de los principales laboratorios del mundo en investigación de inteligencia artificial, big data y ciencias computacionales para que abra su sede europea en Granada. Y, a mayores, en Granada se instalará un nuevo centro nacional de administración digital integrada. No parece, en absoluto, que Andalucía haya salido mal parada con la descentralización.
La decisión final del Tribunal Supremo está por ver. En todo caso, sé que A Coruña no defraudará si alberga la AESIA, para lo cual reúne méritos más que suficientes.
Conclusiones
España se convertirá en el primer país de la Unión Europea con una agencia estatal de supervisión de la inteligencia artificial, anteponiéndose a la entrada en vigor del futuro reglamento aplicable a los sistemas de inteligencia artificial que establecerá la necesidad de que los Estados miembros cuenten con una autoridad supervisora en esta materia.
La supervisión de los sistemas de inteligencia artificial es indispensable. Los algoritmos pueden causar discriminaciones, exclusiones, desigualdades, brechas digitales, incluso pueden convertirse en una amenaza para la diversidad cultural, social o biológica, por los sesgos que se pudieran incorporar en su programación, por su uso indebido o malicioso o por la vigilancia masiva, entre otros factores. Ahora bien, un control desmedido puede suponer un desincentivo a la inversión privada, así que tendrán que hallar el término medio.
—
Más información sobre la inteligencia artificial
Si quieren saber más sobre la inteligencia artificial hagan clic en los siguientes enlaces:
