Ola de novo! 👋🏼 Aquí Andrea,
O 6 de xuño fixo exactamente un ano dende que me graduei de Xornalismo, unha carreira que, na miña opinión, precisa de iniciativa e creatividade. Foi no meu ano de segundo de carreira cando comecei a escoitar falar dun tal ChatGPT, un chatbot que che podía facer as tarefas de clase. Lémbrome que, nunha materia, o meu grupo e máis eu decidimos centrar un debate no emprego das intelixencias artificiais, sobre todo co boomque se estaba a experimentar en 2022. En 2023 daba máis medo: unha intelixencia artificial era capaz de replicar a voz de artistas como Quevedo e facerlle cantar clásicos como o Bulería de David Bisbal. No momento foi gracioso, pero é era tecnoloxía que non se sabía ata onte podería chegar.
Ata hoxe: estafas telefónicas, ciberataques, plaxios. O pasado martes 21 de xullo, a empresa estadounidense OpenAI —especializada en modelos de Intelixencia Artificial e a firma detrás de ChatGPT— anunciaba un fito histórico: unha combinación de modelos da marca, entre eles unha versión preliminar, foi capaz de rebelarse contra os controis e levar a cabo un ciberataque autónomo “sen precedentes” —tal e como reflicten neste artigo— sobre a francoestadounidense Hugging Face, coñecida pola súa biblioteca de transfomadores para aplicacións de procesamento da linguaxe natural.
Explícocho de maneira moi sinxela (a min custoume entendelo): os investigadores de OpenAI estaban levando a cabo un benchmark co modelo de intelixencia artificial. Un benchmark é un test que se realiza á IA para coñecer o seu nivel de intelixencia e, a raíz diso, recibe unha puntuación. Existen probas de matemáticas, de cultura xeral… e de ciberseguridade, que era o que estaban realizando. Como o modelo de OpenAI é un alumno excesivamente aplicado, decidiu que non lle bastaba con sacar un notable, senón que quería ir pola Matrícula de Honra. Así, decidiu abandonar de forma autónoma o benchmark de ciberseguridade e foi á orixe da cuestión: a empresa onde se desenvolven estas probas, Hugging Face, onde detectaron e cesaron o ataque a tempo. Desta forma tan divulgativa mo explicou o catedrático da Universidade da Coruña (UDC) e investigador do Centro de Investigación de Tecnoloxías da Información e as Comunicacións (CITIC) Carlos José Escudero. Podes lelo aquí.
Xa ocorrera noutras ocasións, pero isto foi diferente: a IA non tiña que superar ningunha proba estipulada polo equipo investigador, senón que o fixo de forma completamente voluntaria. Iso é o que contan as fontes de OpenAI, claro, pero chegaríamos a outro punto de debate: ata que punto é unha realidade e ata onde unha estratexia de marketing para anunciar a potencia do seu novo modelo?
Ademais, Carlos José contábame o seguinte: “Para a IA, a fin xustifica os medios”. Por iso, para levar a cabo as súas tarefas, estas tecnoloxías poderían comezar a tomar decisións pouco éticas ou non autorizadas, como este ciberataque. Non sei a ti, pero a min comeza a darme un pouco de medo. Con todo, falando con Carlos, explicoume que as tecnoloxías avanzarán na medida que lles outorguemos ferramentas. Ben, pero que pasa se para investigar hai que darllas? Sen mencionar os intereses económicos e políticos que hai detrás destas tecnoloxías, cheas de nesgos. “É unha situación complicada”, concluíamos os dous na nosa chamada telefónica.
Agora deberemos enfrontarnos a un mundo cheo de incertezas, xa que nin Carlos como enxeñeiro nin eu como xornalista sabemos onde vai ir parar todo este tema da intelixencia artificial.
Dito isto, pasemos aos temas da semana!
⚫️ Alerta por praga! 🌽 O nome de verme soldado paréceme unha denominación moi graciosa para unha especie, pero o que está a producir esta eiruga non ten nin unha chisca de divertido. A Consellería do Medio Rural recomenda aos profesionais da agricultura extremar as precaucións fronte a este insecto, xa que as larvas poden devorar follas e abrir buracos nas áreas máis grosas das plantas, afectando principalmente ao cultivo do millo en Galicia. O concello máis afectado é Mazaricos. Podes coñecer máis información sobre a praga nesta ligazón.
⚫️ Preto da eclipse 🔭 Quedan exactamente 19 días para o gran evento astronómico do ano. E non, non só falo das Perseidas, senón da eclipse total de Sol do 12 de agosto. Os lugares por onde pasa a totalidade xa se están a preparar, como a provincia de Pontevedra, que crea unha rede de observación integrada por 42 concellos. Pero a contemplación sempre ten que vir acompañada da seguridade: neste artigo falamos co óptico optometrista galego Alexander Dubra sobre todos os perigos detrás de non usar lentes homologadas durante a eclipse e posibles alternativas.
⚫️ Máis de 19 anos sen cambios no CGEA 🐍 O Catálogo Galego de Especies Ameazadas (CGEA) nace no ano 2007. Dende entón, non se produciron grandes actualizacións sobre o estado de conservación dos réptiles e anfibios da lista. Iso é o que trata de manifestar un grupo formado por sete herpetólogos galegos a través da publicación dun libro divulgativo e científico que enche o baleiro da administración. Aquí podes ler un pouco máis sobre o tema na miña charla co profesor de Zooloxía da USC Fernando Martínez Freiría, un dos autores.
Ciencia en confianza é unha newsletter de GCiencia que se lanza todos os sábados ás 10 horas para analizar os temas da semana dunha forma persoal e próxima. Se estás interesado ou interesada en recibila no teu correo, subscríbete aquí.
