A empresa especializada en intelixencia artificial (IA) OpenAI revela que un dos seus modelos, incluídos a versión GPT-5.6 Sol e un modelo en versión preliminar, foron os responsables dun novo tipo de incidente de seguridade sobre a francoestadounidense Hugging Face, coñecida pola súa biblioteca de transfomadores para aplicaciones de procesamento da linguaxe natural. Os investigadores de OpenAI estaban realizando unha serie de retos para avaliar as capacidades do seu novo modelo cando este decidiu abandoar o benchmark de ciberseguridade —un test que se realiza á IA para coñecer o seu nivel de intelixencia. “Sen que fose un dos obxectivos, decidiu que, para sacar boa nota, tiña que saír da contorna de probas”, explica Carlos José Escudero, catedrático da Universidade da Coruña (UDC) e experto en Enxeñaría de Ordenadores. Desta forma, superou os sistemas de seguridade de OpenAI e foi á orixe da cuestión: a empresa onde se desenvolven os benchmarks, Hugging Face, onde detectaron e cesaron o ataque a tempo.
Deste xeito, dende OpenAI consideran que “se trata dun incidente cibernético sen precedentes“. Con todo, non é a primeira vez que ocorre un suceso semellante: un modelo da empresa Anthropic tiña o reto de saír da súa contorna de probas (termo coñecido como sandbox) e cumpriuno. O caso de OpenAI é distinto: “Non lle pediron que saíse; buscou obxectivos por conta propia”, explica o investigador do Centro de Investigación en TIC (CITIC).
Este ataque evidencia unha problemática, reflectida por Carlos José Escudero, xa que “para a IA, a fin xustifica os medios”. A solución, segundo o experto, debería estar nas restriccións durante as probas, a fin de que non salte da contorna de probas. Ademais, sinala as dúas caras da moeda: a pesar de que foi un fito sorprendente, tamén pensa que “hai moito de marketing“, xa que se trata dun modelo que aínda non saíu á luz.
Futuro incerto
Agora, a pregunta é como facer fronte a este tipo de vulnerabilidades. “É un problema que está enriba da mesa, pero non se sabe como se vai enfrontar”, explica José Escudero. Este tipo de vulnerabilidades coñécense como Zero Day, un fallo de seguridade recén descuberto que aínda non ten un “parche” dispoñible. Así, a humanidade entra nunha era onde os sistemas son cada vez máis autónomos e as tecnoloxías seguen un obxectivo que tratan de superar cos recursos dos que dispoñen.
Escudero subliña que se trata dun problema no que non se sabe ata onde pode avanzar. “Depende das ferramentas que lle deamos, xa que aínda que semellen seguras, pode que finalmente non o sexan”, explica. Por exemplo, se o risco é darlle acceso a Internet, unha opción sería non permitir ese acceso; “Pero que pasa se o precisas para facer a proba? É unha cuestión moi complicada”, pregúntase.
Así, o novo modelo de OpenAI marca un fito “ata agora impensable”, polo que a considéra unha cuestión que se debe observar dende moi preto, tendo en conta que os medios das intelixencias artificiais para levar a cabo as súas tarefas poden pasar por decisións pouco éticas ou non autorizadas.
Isto é perigosísimo: o negocio por riba da ética, pero agora a nível planetario. A que esperan os políticos para impedir que a máquina acabe dominando á humanidade? En mans de quen estamos? Isto superará a democracia porque seremos manipulados (xa o somos), seremos zombis impotentes. E mentres andamos distraídos coas mentes en pallasadas, campionatos de futbol, as prédicas do Papa, os concertos da cantante de moda, a muller e o irmán do presidente… e por se non abondara misturamos todo isto con problemas reais: a suba dos carburantes, a escaseza de pisos, as guerras que sementa EEUU… Estamos xa na balsa da Medusa, a disposición dos ventos creados pola IA; non nos enganemos: xa empezamos a ser os seus servos, non os seus amos.