Sábado 20 Abril 2024

Marta Peirano: “Estamos adestrando algoritmos que se usan para cazar xente”

A xornalista, experta nas relacións entre tecnoloxía e poder, participou nunha xornada que organizou o Colexio de Xornalistas en Santiago

Marta Peirano Guzmán (Madrid, 1975) leva tapadas as cámaras do seu teléfono móbil, e só as descobre para facer unha foto ou un vídeo. O resto do tempo ocúltaas, porque ten motivos de sobra para crer que alguén se está aproveitando dos datos que ela produce, como tanta outra xente, para sacar tallada e alimentar unha gran rede de algoritmos que xa controla boa parte das nosas vidas. Esta xornalista, con raíces maternas en Negreira, publicou este ano O inimigo coñece o sistema, do que acaba de saír a versión en galego, editada por Kalandraka; un libro que ensina e asusta a partes iguais. Leva máis de vinte anos escribindo e investigando sobre tecnoloxía, e o uso bo e malo que os poderes poden facer dela, e realizou varias entrevistas a Edward Snowden, que prologou outra das súas obras, El pequeño libro rojo del activista en la red. Este xoves participou na Facultade de Comunicación de Santiago de Compostela na xornada Desinformación e ameazas á liberdade de expresión, que organizou o Colexio de Xornalistas.

– Quen é o inimigo?

Publicidade

– O título do libro é unha cita de Claude Shannon (un referente da teoría da información), que vén a dicir que ti non podes basear a seguridade dun sistema na súa opacidade; o teu sistema ten que ser seguro, aínda que o inimigo o coñeza. Non podes pensar que o inimigo non vai coñecer o sistema, porque sempre o acabará descubrindo.

Eu utilízoo noutro sentido: somos todos dependentes dun sistema de telecomunicacións, do que nós non sabemos nada, pero hai axentes que si saben moito, e que o están explotando. Son as compañías tecnolóxicas que espremen os nosos datos para producir e alimentar técnicas de intelixencia artificial; ou as axencias de desinformación que explotan estes datos para crear o caos e manipular á xente en moitas partes do mundo. Pero nós non sabemos como funciona todo isto.

Un dos obxectivos deste libro é explicar que a tecnoloxía seguiu dous camiños: un é o desenvolvemento físico das propias infraestruturas; e outro, o impulso dunha serie de metáforas, que parece que describen estas infraestruturas para que a xente crea que a xente as entende, como ‘a nube’, ou ‘o 2.0’, ou ‘economía colaborativa’, que podería explicar estas cousas, pero que realmente están deseñadas para ofuscar e ocultar os verdadeiros obxectivos que teñen estas infraestruturas.

A charla de Marta Peirano estivo presentada pola xornalista Belén Regueira.
A charla de Marta Peirano estivo presentada pola xornalista Belén Regueira.

– Temos realmente motivos para preocuparnos co que están facendo cos nosos datos?

– Por suposto. Agora mesmo, tres cuartas partes dos habitantes do planeta está usando plataformas dixitais que producen algoritmos de identificación que se usan para cazar xente. Os algoritmos de intelixencia artificial máis sofisticados, mellor financiados e adestrados do mundo úsanse en China para perseguir á minoría musulmá dos uigures e metelos en campos de reeducación, en Estados Unidos para buscar emigrantes sen papeis que están espallados polo país, separalos dos seus fillos e metelos en campos de detención, que veñen sendo, como en China, campos de concentración contemporáneos.

E eses algoritmos estamos adestrándoos nós, sobre todo no caso dos de identificación biométrica. Cando ti usas unha aplicación para desbloquear o teléfono coa túa cara, coa túa voz ou coa túa pegada dactilar, o que estás facendo é darlle permiso a esa aplicación para que use os teus datos. Hai aplicacións que en teoría non poden usar eses datos legalmente, pero se ti lles das permiso, os datos xa son seus. E os datos biométricos teñen unha particularidade, que non se poden cambiar; podes cambiar de contrasinal, de chaves, de teléfono móbil, de país, pero non de cara. E eses algoritmos vante recoñecer, hoxe e dentro de 10 anos, porque están adestrados cun volume enorme de información.

– Nisto non só interveñen enxeñeiros informáticos, senón neurólogos, biólogos, etc.

– Absolutamente. Quen está detrás disto son equipos que poden ser de máis de 150 persoas que investigan desde diversas ramas da ciencia para conseguir que ti pases máis tempo mirando o teu móbil. Aí está o mellor de cada casa, e están moi motivados e moi ben pagados. Hai expertos na psicoloxía do comportamento, hai psiquiatras, hai cociñeiros e catadores que buscan o sabor ou o olor máis atractivo para os produtos que logo ti consumes e amosas na rede…

Hai outro problema: a maioría son homes, de entre 25 e 40 anos, brancos, dun determinado estrato social, que só se relacionan entre eles, e que dispoñen de todos os recursos posibles para facer o que queren. Pensan que todo o mundo vive coma eles, e os problemas que resolven son os seus, non os doutros, están desconectados do resto.

“Creo que xa pasou o momento no que poderiamos ter saído da espiral; isto xa é un problema colectivo”

– É posible escapar desta adicción?

– A resposta é complexa. Creo que xa pasou o momento no que poderiamos ter saído da espiral, ben renunciando a estas aplicacións, ben usando algunhas alternativas. Isto xa non é un problema individual, xa se converteu en colectivo. Porque cada un de nós contribuíu ao desenvolvemento de algoritmos preditivos que van definir a túa vida.

Eu compároo co cambio climático: ti podes levar tempo reciclando moi ben, evitando coller avións, usando transporte público, consumindo pouca enerxía, etc. para ter unha pegada mínima de carbono, pero non te vas salvar, precisas acción colectiva.

Que tipo de acción?

– A xente cando pensa en acción colectiva tende a pensar en grandes revolucións, pero podemos ser efectivos en termos locais. Por exemplo, agora mesmo, Simona Levi está montando unha plataforma para impedir que as escolas catalás incorporen Google Education como medio de traballo nas aulas. É interesante, porque estes ‘métodos’ de traballo educativo non deixan de ser unha forma de espiar aos teus fillos. E a idea deste movemento é intentar explicarlle aos pais por que rexeitar estes medios é importante. E de aquí, isto pode estenderse a outras plataformas que operan no colexio.

Creo que estas accións locais son importantes, para involucrar á xente que está arredor de ti, pero que non necesariamente pensan coma ti ou teñen os mesmos gustos e aficións: os teus veciños, a xente do teu barrio, aínda que teñan outras ideoloxías, sexan doutra xeración, teñan máis ou menos formación, etc. Reconectar con eles é xa unha acción importante, se é que se consegue.

– Esténdese a idea de que quen renuncia a estar conectado é xa unha especie de eremita.

– Pasan dúas cousas: primeiro, estas redes xa son ferramentas da vida pública; hoxe tes que ter unha conta bancaria, e non podes gardar os cartos nun colchón, porque senón non podes cobrar un salario, ou o paro, facer todo tipo de pagos telemáticos… Se es nai ou pai tes que estar metido nos grupos de Whatsapp do colexio; se traballas, tes que estar en determinadas redes para comunicarte e compartir proxectos cos compañeiros.

E por outra banda, botarte ao monte, queimar os aparellos tecnolóxicos e non volver falar con ninguén tampouco te salva, porque hai centos de satélites e dispositivos que te poden atopar e seguir a túa pista.

– Que visión ten sobre as distopías que nos asustan vendo ata onde pode chegar o control da tecnoloxía?

– O problema que temos non é coa tecnoloxía, eu creo que é un problema político; permitiuse que as principais canles de comunicación e de distribución de contidos do planeta están en mans de varias empresas que non están reguladas polas nosas leis, e sabemos que non cumpren coas leis de protección de datos. Están operando por riba das normativas locais, colaborando con gobernos totalitarios e ofrecendo a información que nós lles damos para perseguir xente.

E nos vindeiros 20 anos, estes datos vanse usar para cazar persoas nun contexto de millóns de refuxiados climáticos, con xente que está morrendo no Mediterráneo, atrapada na fronteira de México cos Estados Unidos ou sendo masacrada en Myanmar. Isto é, canto menos, aterrecedor.

Moita xente mira para a China e a sofisticación dos seus controis, pero estamos tamén expostos en Europa?

– O que eu creo, e que de feito opinan tamén os chineses para xustificar o que fan, é que entre a China e os Estados Unidos non hai tanta diferencia; e aquí tamén existes sistemas de crédito social, aínda que non tan explícitos, probablemente. Agora mesmo xa é imposible saber (e as noticias dannos razóns cada pouco tempo) cantos datos teñen de nós, e como iso nos vai afectar.

“O problema que temos non é coa tecnoloxía, eu creo que é un problema político”

O propio ‘pai’ da world wide web está preocupado por isto.

– O poder estase concentrando en moi poucas empresas porque gran parte da información que hai na web está nos seus servidores. Isto é preocupante, e Tim Berners-Lee propón que se descentralicen estes contidos a través dunha nova plataforma. É dicir, que cada un dos ordenadores conectados teña un anaco da información, e non que esta estea só en determinadas mans. E ademais está promocionando ás start-ups que desenvolven aplicacións para esta plataforma. A idea parece boa, pero é difícil que saia ben.

– Haberá tamén quen quere facer o ben, non?

– Xa o dixen; o problema non é a tecnoloxía, é o capitalismo. Hai un modelo de negocio que medrou de forma exponencial porque é súper barato, non require moito persoal e que antes se reducía ás plataformas dixitais, pero que agora xa saltou ás demais industrias: todo o mundo está facendo cartos a costa de recoller datos, desde as cafeteiras de cápsulas ata os frigoríficos ou os coches.

Dentro de moi pouco vai ser difícil mercar un coche, unha lavadora ou un frigorífico que non estea vendendo datos de ti. Eu ao Internet das Cousas (IoT) adoito chamarlle o internet das cousas que falan de ti ás túas costas. Moitas empresas invisten nisto, pero non en seguridade, e podemos quedar expostos.

DEIXAR UNHA RESPOSTA

Please enter your comment!
Please enter your name here

Este sitio emprega Akismet para reducir o spam. Aprende como se procesan os datos dos teus comentarios.

Relacionadas

Un novo modelo de IA afina o diagnóstico e o tratamento das arritmias cardíacas

Un equipo de Barcelona deseña un método que permite fixar con exactitude o lugar de orixe desta afección do corazón

Máis alá dos videoxogos: o uso das imaxes creadas con IA

O investigador do CITIC José Antonio Iglesias Guitián analiza no oitavo episodio de O Descodificador as vantaxas e inconvenientes da xeración sintética de gráficos por ordenador

Reloxos intelixentes e medicina do sono: así nos axuda a tecnoloxía a vivir mellor

Os investigadores do CITIC Diego Álvarez e Patricia Concheiro analizan no sétimo episodio de O Descodificador as aplicacións biomédicas da IA

▪️ Expertos en tecnoloxía, ciencias e humanidades asesoran a Xunta para o uso ético da IA

A comisión de especialistas elabora recomendacións para impulsar accións formativas e a sensibilización na administación e empresas