A Xunta de Galicia recibe asesoramento de expertos en diferentes ramas do coñecemento humano para tomar decisións relacionadas co uso da intelixencia artificial con criterios éticos, fiables e humanísticos. A Comisión de Expertos no Desenvolvemento e Uso Ético da Intelixencia Artificial, creada polo Goberno galego a finais de 2023, está presidida polo director da Axencia para a Modernización Tecnolóxica de Galicia (Amtega), Julián Cerviño.
Entre as funcións da Comisión destacan a elaboración de recomendacións e asesoramento sobre o desenvolvemento e o uso ético da IA en Galicia; o asesoramento para impulsar accións formativas e de sensibilización en IA, dirixidas a empresas, administración pública e cidadáns; a formulación de propostas sobre a Estratexia Galega de Intelixencia Artificial 2030, co obxectivo de adaptar as súas medidas aos novos escenarios; e o asesoramento na avaliación do impacto da IA nos diferentes sectores produtivos de Galicia, Administración Pública e sociedade, entre outros.
A creación dun comité asesor de alto nivel en materia de IA é unha das medidas previstas na Estratexia Galega de Intelixencia Artificial 2030 (EGIA), que foi aprobada en 2021 e converteu a Galicia nunha rexión pioneira no desenvolvemento estratéxico desta tecnoloxía. cos criterios das institucións europeas. A creación da Comisión de Expertos débese tamén ao compromiso da Xunta de aprobar nesta lexislatura a normativa necesaria para facilitar a incorporación de tecnoloxías de alto impacto, tanto no sector público como nos diferentes sectores económicos.
Lei de IA
A Comisión reuniuse por primeira vez en xaneiro e celebrará en abril unha segunda reunión para analizar a Lei de Intelixencia Artificial aprobada recentemente polo Parlamento Europeo e avanzar no debate sobre a Lei para o Desenvolvemento e Impulso da Intelixencia Artificial en Galicia, que é o primeiro texto lexislativo que se prepara nunha rexión europea.
Trala primeira reunión, as persoas que integran a Comisión foron recibidas polo presidente da Xunta, Alfonso Rueda, que salientou o potencial de Galicia para situarse á vangarda no impulso de novas tecnoloxías e das medidas que garantan un uso seguro e axeitado das mesmas. Durante o encontro, Rueda puxo como exemplo a futura lei sobre intelixencia artificial na que se está a traballar o Goberno autonómico. Unha normativa que vai consolidar a Galicia coma referente europeo no uso ético destas tecnoloxías e coma lugar atractivo para a inversión empresarial neste sector.
Rueda agradeceu o labor de asesoramento desta Comisión e lembrou que o obxectivo último dos avances tecnolóxicos sempre ten que ser “mellorar a calidade de vida das persoas”. Para iso, salientou, é preciso o traballo conxunto entre administracións, universidades e o tecido produtivo.
Galicia, pioneira na lexislación sobre IA
A Xunta é a primeira Administración autonómica que conta cun anteproxecto de Lei de Ordenación, Organización e Fomento da Intelixencia Artificial. Os dous piares desta lei son o establecemento dos criterios e procedementos para o deseño, adquisición, desenvolvemento e implantación de sistemas de intelixencia artificial (IA) por parte da Administración e o recoñecemento dos dereitos dos cidadáns á liberdade, á igualdade e á reacción ante o seu uso. O texto tamén senta as bases para promover a adopción da IA nos sectores produtivos ou para formar ás persoas no uso axeitado destas tecnoloxías.
O texto establece no seu título preliminar, ademais dos obxectivos e alcance da norma, os principios éticos para o desenvolvemento desta tecnoloxía, que coinciden cos asumidos pola European AI Alliance para que a UE lidere esta tecnoloxía clave a nivel mundial en excelencia e fiabilidade. Neste sentido, o preámbulo da lei tamén revisa os dereitos de liberdade e igualdade das persoas.
Os aspectos normativos da lei recóllense en tres apartados (títulos) sobre ‘Goberno e planificación da IA’, ‘Uso da IA polo sector público de Galicia’ e ‘Medidas de fomento da IA’. No primeiro título indícanse as competencias dos distintos órganos de xestión pública, así como dos órganos de supervisión e avaliación. Tamén regula as áreas de colaboración, entre as que se atopa o nodo GalicIA, e está prevista a creación dun Observatorio Galego de IA. Tamén inclúe aspectos relacionados coa planificación e a xestión (como a Estratexia Galega de IA – EGIA).
O segundo título aborda cuestións como os criterios que rexerán a compra ou desenvolvemento de sistemas de IA por parte da Administración pública, así como os procedementos de proba para garantir a súa fiabilidade e o respecto aos dereitos das persoas. Tamén regula ata que punto a IA pode participar nos procesos de toma de decisións, códigos de conduta e pautas éticas e ferramentas de autodiagnose.
Por último, o terceiro título abre as portas a promover o uso da IA ética e fiable entre as empresas a través de mecanismos como incentivos económicos, fiscais e á innovación, así como a colaboración entre administracións a través dos ecosistemas Gobtech. Tamén se inclúen aspectos relacionados coa formación de empregados públicos ou catedráticos e profesionais universitarios e o marco para establecer medidas de loita contra os riscos da IA.
Colaboración entre o coñecemento e a administración
Galicia deu os primeiros pasos para impulsar a especialización da IA na Comunidade coa creación dun espazo de colaboración entre o coñecemento —universidades e centros de investigación— e a Administración: o nodo galicIA. Ao mesmo tempo, un convenio de colaboración co sistema universitario galego permitiu realizar un estudo sobre o marco ético e normativo co que se debe desenvolver a IA na nosa Comunidade. Un dos primeiros resultados desta colaboración foi o informe que permitiu que Galicia sexa o lugar elixido polo Goberno para acoller a primeira Axencia Estatal de Supervisión da IA que se crea en Europa.
A Comisión de expertos para o asesoramento sobre o desenvolvemento e uso ético da intelixencia artificial en Galicia está integrada por:
Economía:
· Andrés Pedreño. Catedrático de Economía Aplicada, Universidade de Alicante.
· Ana José Varela. Directora Financiera da Organización para a Cooperación e o Desenvolvemento Económico (OCDE).
Filosofía e evolución humana:
· Felipe Criado. Director do Instituto de Ciencias do Patrimonio del CSIC e Premio Nacional de Investigación 2023.
· José María Lasalle, Director do Foro de Humanismo Tecnológico de ESADE.
Tecnoloxía aplicada:
· Ana María Freire. Directora do Departamento de Operacións, Tecnoloxía e Ciencia da Barcelona School of Management.
· Verónica Bolón. Profesora da Área de Ciencia da Computación e Intelixencia Artificial, Universidade da Coruña.
Ética e normativa:
· Patricia Valcárcel. Profesora Catedrática de Dereito Administrativo, Universidade de Vigo.
· Marcos Almeida. Profesor Titular de Dereito Administrativo, Universidade de Santiago de Compostela.
· Moisés Barrio. Letrado do Consello de Estado.
Política Pública:
· Cristina Pombo. Asesora do Sector Social, Banco Interamericano de Desenvolvemento (BID).
