‘E se a IA se rebelan contra os humanos?‘ Esta pregunta leva décadas alimentando especulacións na ficción televisiva, literaria e sonora, pero o avance da intelixencia artificial arrastrou a incógnita ao ámbito da realidade, fóra das lindes da imaxinación creativa. O que antes se propuña nunha sala de redacción para o próximo grande éxito da ciencia ficción, é agora unha cuestión que se ergue no centro dos debates éticos, en especial despois das declaracións dun antigo traballador de Anthropic a través de X que formulaban a posibilidade de que a IA resultara presentar unha ameaza letal para o ser humano.
Jacob Coxon publicou na rede social as seguintes palabras: “Marchei de Anthropic hoxe. Pasei os últimos tres anos facendo investigación de preadestramento en OpenAI e Anthropic. Ningunha das dúas compañías está actuando de maneira responsable. Están correndo directamente cara a unha superintelixencia auto-mellorable e apostando coas nosas vidas“. Unha hora despois, outro traballador —Evan Hubing— da empresa de IA apoiou as afirmacións de Coxon. Dito compañeiro engade noutro chío que, como documentaron no Informe de Riscos de Anthropic, os modelos actuais non presentan unha ameaza inminente. “O que me preocupa é a superintelixencia que xorde da auto-mellora recursiva, que, como dixemos, está pasando máis rápido do que pensamos”, escribiu Hubing.
O presidente do Colexio Profesional de Enxeñaría Informática de Galicia (CPEIG) Fernando Suárez e o director científico do Centro Singular de Investigación en Tecnoloxías Intelixentes (CiTIUS) Senén Barro concordan en que a magnitude das declaracións excede as capacidades actuais desta tecnoloxía. Así e todo, os expertos recoñecen que, se ben estreitamente ligados aos seus usos, a IA non está libre de riscos.
A IA vai acabar coa humanidade?
Ante as rechamantes publicacións do persoal de Anthropic, abriuse un debate que ata o de agora permanecera maioritariamente recluído na ciencia ficción: ‘A IA vai acabar coa humanidade?’. A isto, os investigadores ven unha resposta clara. “A IA xa é unha ameaza; non o suficiente como para acabar coa sociedade, pero o seu mal uso si ten consecuencias negativas”, asegura Suárez. Barro ofrece unha visión similar: “Non vexo que supoña un risco existencial para o ser humano. En cambio, si ten outros perigos“.
Así, aínda que a prevalencia da especie non está ameazada por esta tecnoloxía, a IA si supón un importante factor de risco noutros aspectos. Boa parte dos mesmos xorden dos malos usos cos que se pode empregar a intelixencia artificial e da discordancia entre o seu progreso e as capacidades sociais: “Os avances van máis rápido do que a sociedade pode asumilos, e a IA é unha das tecnoloxías que crece máis exponencialemente”, recoñece o presidente do CPEIG.
Os riscos actuais
Ambos expertos sinalan que un dos grandes riscos asociados á intelixencia artificial no seu estado de desenvolvemento actual é que xa ten a capacidade de determinar debilidades nos sistemas informáticos. Isto pode supoñer unha ameaza “en base a unha mala xestión, un afán humano malintencionado, ou se se pon un recurso crítico en mans da acción da IA sen saber cal vai ser o resultado”, explica Senén Barro.
Neste senso, o director do CiTIUS explica que a vida tal e como se coñece nos países desenvoltos está estreitamente ligada á rede: “Se apagamos Internet, as redes de telecomunicación ou o mundo dixital, como sociedade sobreviviriamos pero moitas persoas morrerían ao non ter acceso aos recursos básicos de atención, de enerxía e de alimentación“. Fernando Suárez engade a esta lista o control dos sistemas de potabilización da auga, dos tendidos ferroviarios, financeiros, etc.
O director do CiTIUS sinala que pode haber quen decida explotar as capacidades tecnolóxicas, pero aclara que o resultado non partiría dunha iniciativa maliciosa por parte da propia tecnoloxía. “A IA non ten maldade, dado que non ten conciencia nin valores máis alá dos que lle introduzamos e dos que se presenten a través da aprendizaxe automática. Pero se lle das autonomía a algo con tanta capacidade, podes levar sorpresas”.
A necesidade de supervisión
O investigador de Anthropic Evan Hubing estima que hai, como mínimo, un 10% de probabilidade de que a intelixencia artificial se volva letal para a humanidade na próxima década. Os expertos Suárez e Barro concordan na imposibilidade de predicir o avance desta tecnoloxía debido a que non presenta un crecemento liñar, senón acelerado e suxeito aos usos que se lles dea.
Polo de agora, a IA aínda necesita a supervisión humana. “Dende hai uns meses estamos usando a propia intelixencia artificial para que se desenvolva a si mesma, o que está acelerando o proceso. Pero é algo que está nas nosas mans. Non podemos dicir ‘non podemos parala porque ten vida plena e mellórase a si mesma’; non, nós somos quen a melloramos“, asegura Senén Barro.
Poñer freo ao avance?
Os investigadores chegan á mesma conclusión: no centro das incógnitas en torno á seguridade da IA debe atoparse a regulación. “Máis que cortar o avance, é necesario regulalo”, indica Fernando Suárez. O presidente do CPEIG apunta que isto é especialmente relevante porque xa se deron casos nos que a tecnoloxía se empregou baixo intereses propios: “O procesamento de datos masivos pode influír claramente nas decisión públicas, como xa aconteceu no seu día nas eleccións dos Estados Unidos ou no Brexit. Vimos como pode manipularse a opinión colectiva”.
Suárez recalca, así, que a intelixencia artificial —en concreto sendo explotada para fins individuais— pode levar esta situación a outros extremos debido ás súas capacidades. “Deben regularse os usos e a súa construción. Necesitamos coñecer os sistemas, ver que paradigmas usa, como aplican os protocolos de protección”, conta o presidente de CPEIG.
“A regulación é un marco normativo que establecemos porque consideramos que iso nos beneficia colectivamente, non a persoas concretas”, indica Senén Barro. O director do CiTIUS pon o foco sobre a gran dificultade que enfronta a regulación: “É necesario que se adopte a nivel mundial, especialmente por parte dos países con maior peso na situación. Globalmente, necesítase adaptar o progreso á escala e ritmos humanos. De non facer isto, iremos pagando prezos cada vez maiores. E haberá que ver que, e quen está dispostos a pagalos“.
Entre a tecnoloxía e a xeopolítica
“O avance está precisamente nas entidades privadas. Necesítase regulación, pero tamén un consenso”, indica Fernando Suárez. Engade que se require a actuación dun organismo supranacional que tome as rendas da situación para unificar o progreso e, sobre todo, homoxeneizar as regras que se deben seguir neste proceso. “Parece que os intereses van máis alá da tecnoloxía e do seu aproveitamento para mellorar a calidade de vida. É unha declaración de supremacía entre distintos países”, resalta o presidente do colexio de enxeñeiros informáticos. O contexto tecnolóxico actual presenta dous grandes actores diferenciados cuxa dicotomía marca o avance tecnolóxico e xoga cos fíos políticos tecidos entre ambos: Asia, liderada por China, e occidente, por Estados Unidos.
“Hai un acordo de non proliferación da enerxía atómica, das armas biolóxicas e de destrución masiva. Tamén se require un acordo de desenvolvemento sostible e sensato da capacidade de regular as tecnoloxías e os custos derivados do seu mal uso ou da non anticipación das actuacións desta potente ferramenta”, completa Senén Barro.
No escenario tecnolóxico do momento, xorden preguntas en torno á evolución das capacidades e os usos da intelixencia artificial e, sobre todo, o papel que cada axente ten nesta ecuación. “Como sociedade, quédanos esixir aos nosos gobernos —ás comunidades autónomas, ao estado español e incluso a Europa— unha forma de desenvolver, controlar e regular a IA a nivel mundial“.
