Nos últimos meses producíronse rápidos e inesperados avances en intelixencia artificial (IA). Podemos crear imaxes a vontade con ferramentas como Midjourney ou DALL-E ou facer preguntas e conversar con ChatGPT. E isto expón tamén desafíos éticos, sociais e legais inéditos.
Os adiantos técnicos que cambian radicalmente o noso modo de vida sempre traen incógnitas e confusión. Cando o tren empezou a substituír os cabalos, mesturábanse preocupacións fundadas (como os problemas de respirar fume) con outras que acabaron non séndoo (como o medo a que os viaxeiros se asfixiasen nos túneles). Con tempo e perspectiva, foise aclarando o panorama.
Coa IA, aínda estamos na fase de confusión: debemos sopesar os seus riscos e os seus beneficios para crear unha regulación que, sen frear o progreso, garanta un uso responsable. Vexamos algúns dos puntos máis relevantes neste debate.
Unha delicada materia prima: os datos
Detrás de ferramentas como Midjourney ou ChatGPT hai algoritmos que aprenden a realizar tarefas a partir de grandes cantidades de datos. Por exemplo, para que Midjourney puidese crear imaxes a partir de texto, fixo falta recompilar miles de millóns de imaxes coas súas descricións, descargándoas da internet. De aí xorde un conflito de propiedade intelectual: é legal usar contidos protexidos por dereitos de autor para ensinar estes sistemas?
Moitos artistas opinan que non: están a usarse as súas obras para crear outras obras, o que pon en perigo o seu mercado. Por iso denunciaron os responsables de sistemas deste tipo.
Pero hai un argumento técnico en sentido oposto: ao aprender, estes sistemas non copian nin gardan en memoria as obras. Só as usan para mellorar o seu coñecemento de como facer a tarefa. Algo non tan distinto do que fai un artista humano, que se deixa influír e inspirar pola arte que viu.
Serán os tribunais de Estados Unidos os que decidirán se isto é un “uso lexítimo” dos datos ou non. Mentres tanto, a empresa Adobe traballa nunha alternativa que non usa imaxes con dereitos de autor sen consentimento dos creadores.
Europa, máis rigorosa
Outro conflito, esta vez centrado en Europa, é o da protección de datos. A lexislación da UE non permite, en xeral, procesar a información persoal de ninguén sen o seu consentimento. Isto aplícase mesmo a datos que son públicos na internet.
Para aprender a conversar, ChatGPT necesitou centenares de miles de millóns de palabras obtidas da rede. Estes textos poden incluír mencións a persoas, e ninguén as eliminou nin pediu o seu consentimento. O problema é que, neste caso, iso parece imposible dado o enorme volume dos datos: unha “solución Adobe” non é viable.
Por tanto, unha interpretación estrita da normativa europea parece frontalmente incompatible cos sistemas como ChatGPT. Por iso é polo que Italia o prohibiu.
O malo é que unha medida así prexudica gravemente a competitividade dun país. Por exemplo, este tipo de ferramentas multiplican a produtividade dos programadores. Se unha empresa tecnolóxica quere contratar persoal, farao nun país onde se permitan ou onde se prohiban? A pregunta respóndese soa.
Así, os lexisladores europeos enfróntanse a unha situación incómoda: conciliar a protección de datos persoais con non perder o tren da IA fronte a países con normas máis laxas, como os anglosaxóns.
Como a usamos?
Outro aspecto clave da regulación da IA é para que se usa. Hai que lembrar que un algoritmo non é de seu ético ou non: é unha ferramenta que alguén usa para un fin. Por exemplo, imaxinemos un sistema que analice datos dun paciente e suxira un diagnóstico. Pode ser moi valioso para axudar a un médico, adoptando este a decisión última segundo o seu propio criterio. En cambio, a mesma tecnoloxía sería un perigo se toma a decisión final, substituíndo o facultativo.
A UE é consciente disto, e está a preparar unha regulación baixo o principio de “poñer á persoa no centro”: IA, si, pero sempre baixo supervisión humana.
O problema é como levalo a cabo. Europa partía cuns anos de vantaxe preparando certificacións para un uso responsable da IA, pero atrasou o proceso ao irromper ChatGPT: agora hai que contemplar o uso dunha ferramenta tan versátil que a pode usar calquera para multitude de fins, éticos ou non.
Mentres tanto, Estados Unidos lanzou unha consulta pública sobre como crear unha regulación así. E China tamén quere facelo, engadindo o obxectivo de que os sistemas de IA reflictan “os valores do socialismo”.
Podería volverse contra nós?
Tratamos algúns dos retos legais e éticos que expón a IA no presente. Pero que pasará a máis longo prazo? Desde un punto de vista técnico, aínda non está claro se se poderá seguir avanzando a un paso tan frenético como o dos últimos anos. Pero se fose así, os aspectos regulatorios que vimos serían só o principio.
De aí a petición de pausar por seis meses o desenvolvemento de novos sistemas, asinada a finais de marzo por centos de expertos e figuras mediáticas.
Neste sentido, un desafío moi comentado é o da automatización de moitos postos de traballo. Pero revisando a historia, a humanidade sempre creou tecnoloxías para alixeirar a carga laboral, e hoxe non renunciariamos a ningunha. A clave está en como repartir o traballo e a riqueza: o ideal sería evitar empregos innecesarios (como denunciaba o antropólogo David Graeber) e desigualdade que impida a parte da poboación o acceso a unha fonte de ingresos.
Outra preocupación a futuro é que pasará se chegamos a desenvolver sistemas de IA conscientes. Hai pouco, Google despediu a un enxeñeiro por dicir que un dos seus sistemas conversacionais xa o era. Segundo o filósofo da mente David Chalmers, non parece que isto sexa así; entre outras cousas, porque sistemas como ChatGPT non teñen memoria nin unha personalidade estable.
Pero podería lograrse algún día. Se así fora, habería que sopesar as implicacións éticas de causar dano a un ser consciente, enfrontando dilemas parecidos aos que expón a clonación. Tamén teriamos que evitar que a IA puidese volverse contra nós, unha das motivacións da petición de pausa.
En suma, os últimos avances en IA obrigan a un debate amplo sobre como regular o seu uso. Debemos prestar atención aos riscos, pero sen esquecer que as revolucións tecnolóxicas sempre melloraron a nosa calidade de vida.
*Carlos Gómez Rodríguez é catedrático de Ciencias da Computación e Intelixencia Artificial da Universidade da Coruña.
Cláusula de divulgación: Carlos Gómez Rodríguez recibe fondos públicos do Consello Ueropeo de Investigación (European Research Council, ERC: ERC-2022-POC2 101100615, SALSA), do MCIN/AEI e FEDER (SCANNER-UDC, PID2020-113230RB-C21) e Xunta de Galicia (ED431C 2020/11).
