L’avaluació del risc de desinformació generada per intel·ligència artificial s’ha convertit en una prioritat per a empreses i reguladors. Un estudi recent (arXiv:2604.06820v2) revela una paradoxa inesperada: quan es pregunta directament a un model de llenguatge gran (LLM) si un contingut enganyós seria compartit per humans, les puntuacions obtingudes no prediuen millor aquest comportament que les puntuacions de credibilitat. Aquesta troballa desafia el supòsit implícit que preguntar per la resposta objectiu produeix el millor predictor. Per a una empresa tecnològica com Q2BSTUDIO, especialitzada en aplicacions a mida, aquest resultat té implicacions profundes en el disseny de sistemes de detecció de desinformació basats en IA.
L’estudi va comparar les valoracions de 317 participants humans amb les de vuit LLMs diferents sobre 290 articles enganyosos. Es va demanar als models que prediguessin tant la credibilitat com la disposició a compartir. El resultat va ser contraintuïtiu: les puntuacions de credibilitat ofertes pels LLMs correlacionaven millor amb el comportament real de compartir de les persones que les puntuacions de compartir directes. És a dir, preguntar 'És creïble aquest contingut?' va resultar més informatiu que preguntar 'Compartiries aquest contingut?'. Aquest fenòmen es va mantenir fins i tot quan les preguntes es presentaven per separat o en ordre invers.
Per a Q2BSTUDIO, que integra IA en solucions empresarials, la lliçó és clara: l’enginyeria de prompts ha d’anar més enllà de la pregunta directa. En lloc d’assumir que l’LLM pot predir un comportament humà preguntant-li explícitament per ell, els equips de desenvolupament han d’explorar rutes indirectes. Per exemple, utilitzar la credibilitat com a variable mediadora pot ser més efectiu per anticipar la propagació de desinformació. Això és anàleg a com en el desenvolupament d’automatització de processos de vegades és millor mesurar un indicador indirecte que el resultat final.
Des de la perspectiva de la ciberseguretat, la detecció primerenca de campanyes de desinformació requereix models que no només avaluïn el contingut, sinó que comprenguin els biaixos cognitius humans. Els LLMs entrenats amb preguntes mal formulades poden generar falsos positius o negatius. Q2BSTUDIO recomana dissenyar sistemes híbrids que combinin avaluacions directes de credibilitat amb anàlisi de patrons de compartició, utilitzant Business Intelligence amb Power BI per visualitzar les correlacions entre variables.
En l’àmbit del núvol, tant AWS com Azure ofereixen infraestructura escalable per desplegar pipelines d’avaluació de riscos. La clau està en l’arquitectura del model: no n’hi ha prou amb llançar un prompt únic. Q2BSTUDIO proposa una estratègia d’'avaluació en cadena', on l’LLM primer analitza la credibilitat, després aplica un model de regles de negoci i finalment estima la probabilitat de compartició. Això requereix un programari a mida que integri aquests passos de manera fluida.
La investigació subratlla que la intel·ligència artificial actual, tot i ser poderosa, no és una caixa negra omnipotent. Els equips de dades han de validar constantment les assumpcions subjacents. Per exemple, en un projecte recent de Q2BSTUDIO per a un mitjà de comunicació, es va implementar un agent d’IA que, en lloc de preguntar directament si un article era enganyós, avaluava primer la seva consistència interna i després comparava amb bases de dades de fets verificats. Aquest enfocament indirecte va reduir els falsos positius en un 23%.
En conclusió, l’estudi ofereix un avís valuós: en l’avaluació de risc amb LLMs, decidir què preguntar pot ser tan important com perfeccionar com preguntar-ho. Q2BSTUDIO, com a empresa de desenvolupament de programari i tecnologia, integra aquestes troballes en les seves solucions personalitzades, ja sigui al núvol, en ciberseguretat o en intel·ligència de negoci. La pròxima generació de sistemes de detecció de desinformació no es limitarà a preguntar directament, sinó que explorarà les rutes cognitives que realment governen el comportament humà.
