Ás dúas da madrugada, alguén escribe: “Síntome soa”. Non é un berro, non hai dramatismo. É só unha frase máis no río de publicacións que circula cada noite polas redes sociais. Recibe un par de “gústame”, quizá mesmo un emoji, e queda enterrada baixo o seguinte vídeo.
Ao día seguinte, nada “pasa”. Pero, ás veces, o importante non ocorre nun día. Porque unha frase illada pode ser só iso, unha frase. O que determina a lectura é a traxectoria.
Hai motivos de preocupación cando o ton escurécese durante semanas, cando se repiten temas de desesperanza, cando as interaccións dilúense, cando a linguaxe vólvese máis autorreferencial ou rumiativa. E é aí onde podemos botar man do ‘oído dixital’.
Un ‘oído’ que non ‘oe’ pero detecta patróns
Un modelo de linguaxe masiva (LLM), o que comunmente chamamos unha IA, non “entende” como un humano. A súa habilidade é outra: identificar regularidades da linguaxe a escala.
Os LLMs adéstranse con enormes cantidades de texto. Deste xeito aprenden patróns da linguaxe, detectan que expresións adoitan ir xuntas, captan como se estrutura un relato e recoñecen cambios de estilo que se repiten en certos contextos.
Esa capacidade pode resultar moi útil para identificar tendencias nas mensaxes que, en conxunto e en determinadas poboacións, asócianse con malestar e problemas de saúde mental.
Alerta temperá non é diagnóstico
Xa en 2018, antes do auxe de ChatGPT, un estudo mostrou algo rechamante: a linguaxe das mensaxes publicadas en Facebook podía anticipar sinais asociados a depresión en rexistros clínicos. E eses sinais aparecían mesmo meses antes de que existise un diagnóstico documentado. Cando, ademais, hai imaxes, a análise pode gañar contexto. Texto e imaxe achegan información distinta e, ás veces, complementaria.
Pero é importante que quede claro que a capacidade da tecnoloxía para detectar sinais non é un diagnóstico. O primeiro permite alertar de maneira probabilística para priorizar revisión, ofrecer recursos ou activar apoio humano. O diagnóstico clínico, en cambio, é unha decisión sanitaria que debe estar baseada nunha historia clínica, nunha entrevista persoal co especialista.
Ao usar sistemas tecnolóxicos para detección temperá non se pretende substituír ao clínico senón reducir o atraso e activar as alarmas antes de que a deterioración sexa máis evidente.
A investigación en sistemas dixitais de detección
Un bo sistema de detección temperá non se activa por unha frase triste. Actívase, se o fai, por un patrón sostido: semanas de empeoramento do ton, máis illamento, máis actividade nocturna, menos sinais sociais. E mesmo neses casos non sentenza. Só suxire: “revísao”, como faría un triaxe.
Avaliar en que medida o sistema avisa a tempo, cantos falsos positivos xera ou como cambia o seu comportamento cando chegan novas publicacións é ao que nos dedicamos no marco do proxecto eRisk.
Escoitar onde ninguén está a escoitar, como propón o oído dixital, soa esperanzador. Pero tamén abre un terreo fráxil, porque en saúde mental equivocarse ten consecuencias serias.
Os falsos positivos, é dicir, detectar unha deterioración da saúde mental cando non o hai, pode provocar unha intervención intrusiva, alarma familiar ou estigma, con especial impacto en menores.
En canto aos falsos negativos, é dicir, cando non se detecta a tempo esta deterioración, poden ter consecuencias graves, sobre todo se o sistema preséntase como rede de seguridade e despraza apoio humano ou acceso a servizos.
Aspectos culturais da linguaxe
A linguaxe do malestar non é universal. Cambia en función da cultura, a comunidade, a idade e o contexto socioeconómico. Sen ir máis lonxe, un estudo atopou que modelos lingüísticos estándar predicían severidade de depresión en usuarios brancos, pero non en usuarios negros. O que parece sinal nun grupo pode non transferirse a outro.
Por iso é preciso que o sistema cumpra un requisito máis: a explicabilidade. Non abonda con que o modelo “acerte”, é preciso entender por que sinala unha alerta. Que patróns pesaron máis? Sen esa rastrexabilidade, é difícil auditar rumbos, corrixir erros e, sobre todo, xustificar unha intervención. En contextos sensibles, unha caixa negra aumenta o risco de decisións arbitrarias.
Volvamos ao exemplo inicial. Unha frase como “síntome soa” non debería activar ningunha alarma. Pero se se mantivese no tempo, un bo sistema debería alertar con indicacións do tipo: “Nas últimas semanas obsérvase illamento crecente, aumento de publicacións nocturnas e un cambio progresivo cara a expresións de desesperanza”.
É dicir, a alerta apóiase en patróns concretos e comprensibles. E aínda que non substitúe ao xuízo humano, axuda a ver e explicar o que podería pasar desapercibido.
Plataformas e lei: cada vez menos zona gris
A miúdo este debate exponse coma se fose futurista. Pero en Europa xa existe un marco de obrigacións que empuxa ás plataformas, sobre todo cando hai menores, a xestionar riscos para o benestar.
Co Digital Services Act, as plataformas grandes deben identificar e avaliar riscos sistémicos ligados ao seu deseño e funcionamento e aplicar medidas de mitigación. Ademais, a Comisión Europea ha publicado guías específicas sobre protección de menores, reforzando o deber de dilixencia en seguridade, privacidade e deseño.
A este reto súmase o do tratamento de datos persoais. Para evitar que cada norma “viva na súa illa”, o Consello Europeo de Protección de Datos publicou guías sobre a interacción entre ambos os marcos regulatorios.
Construír un oído dixital que coide
Da mesma maneira que un monitor continuo de glicosa non substitúe ao médico pero axuda a anticipar problemas e a tomar decisións máis seguras, un oído dixital responsable pode identificar sinais de que alguén necesita apoio sen extraer por iso un diagnóstico. A detección temperá debe axudar a chegar antes sen substituír nunca o esencial: o coidado humano.
Para que funcione así, fan falta cinco decisións de deseño: debe ter unha finalidade sanitaria nítida; contar con mecanismos de control e consentimento real; priorizar a intervención e supervisión humana; estar sometido a avaliación e auditoría lonxitudinais e por subpoboacións (non só medias); e, finalmente, as intervencións deben ser proporcionais, non intrusivas, con recursos e acompañamento.
Pero o mesmo oído que pode coidar pode converterse nunha infraestrutura onde a vulnerabilidade mídese, se etiqueta e se monetiza. Por iso, o futuro deste oído dixital non depende só do potente que sexa o modelo: depende de quen o manexa, con que incentivos e baixo que garantías.
Se imos construír sistemas que escoiten o que escribimos, que sexa exclusivamente para coidar.
Cláusula de divulgación: Javier Parapar recibe fondos de Xunta de Galicia (ED431C 2025/49), Ministerio de Ciencia e Universidades (PID2022-137061OB-C21), Unión Europea (GA 101073351)
