La intel·ligència artificial ha assolit un nivell de sofisticació que permet als models lingüístics generar text amb una fluïdesa sorprenent, però un estudi recent amb un model entrenat exclusivament en xinès clàssic revela una bretxa inquietant: aquests sistemes poden posseir un coneixement intern robust sense ser capaços d'expressar incertesa. Aquest fenomen, que els investigadors anomenen 'dissociació entre certesa interna i expressió externa', té implicacions profundes per al desenvolupament d'aplicacions empresarials basades en IA.
El model analitzat, un Transformer de 318 milions de paràmetres, va ser entrenat des de zero amb 1.56 mil milions de tokens de xinès clàssic pur, sense rastre de caràcters occidentals ni nombres aràbics. En sotmetre'l a proves sistemàtiques fora de distribució, els resultats van mostrar un salt de perplexitat de 2.39 vegades entre esdeveniments històrics reals i fabricats, i fins a 4.24 vegades en escenaris semifabricats (personatges reals amb esdeveniments ficticis). Això demostra que el model codifica genuïnament fets, no només patrons sintàctics. No obstant això, en la generació de text, el model mai va aprendre a expressar dubte: els marcadors epistèmics propis del xinès clàssic van aparèixer amb menys freqüència davant de preguntes fora de distribució que davant de preguntes familiars, reflectint convencions retòriques del corpus d'entrenament, no una metacognició genuïna.
Aquesta troballa es va replicar en tres idiomes (xinès clàssic, anglès, japonès), tres sistemes d'escriptura i vuit models d'entre 110 milions i 1.56 mil milions de paràmetres. La freqüència d'expressió d'incertesa va dependre enterament de les convencions del corpus, no de l'estat epistèmic intern. Així, els models de xinès clàssic van mostrar una 'paradoxa d'humilitat' (major atenuació en temes coneguts), mentre que els de japonès amb prou feines usaven expressions de dubte. La conclusió és clara: la capacitat de dir 'no ho sé' no sorgeix del simple modelatge del llenguatge; requereix senyals explícits d'entrenament com RLHF (aprenentatge per reforç amb retroalimentació humana).
Per a les empreses que busquen integrar IA en els seus processos, aquesta dissociació representa un risc crític. Un sistema que internament sap que està insegur però externament genera respostes assertives pot portar a decisions equivocades, especialment en àmbits com l'atenció al client, la diagnosi tècnica o la gestió de riscos. La confiança en la IA no depèn només de la seva precisió interna, sinó de la seva capacitat per comunicar els seus límits. Per això, des de Q2BSTUDIO defensem un desenvolupament d'aplicacions a mida que incorporin mecanismes de gestió d'incertesa des del disseny.
La solució passa per combinar models base potents amb capes de supervisió humana i entrenament específic en senyals epistèmics. Per exemple, en projectes d'IA, Q2BSTUDIO integra tècniques d'aprenentatge per reforç amb retroalimentació humana (RLHF) perquè els models aprenguin a expressar dubtes de forma coherent amb el seu coneixement intern. Això és especialment rellevant quan es despleguen agents d'IA en entorns crítics, com la ciberseguretat o l'automatització de processos, on una resposta errònia pot tenir conseqüències greus.
A més, la infraestructura cloud juga un paper fonamental. Els models actuals requereixen grans capacitats de còmput i emmagatzematge per entrenar-se i executar-se amb baixa latència. Q2BSTUDIO ofereix solucions en cloud AWS/Azure que permeten escalar aquests sistemes de forma eficient, mantenint la seguretat de les dades i el compliment normatiu. La ciberseguretat també és clau: si un model no expressa incertesa, pot ser enganyat per entrades adversarials; per això, les nostres implementacions inclouen auditories de robustesa i mecanismes de detecció d'anomalies.
En l'àmbit de l'anàlisi de negoci, la integració d'IA amb eines de Business Intelligence (BI) com Power BI ofereix un gran potencial. No obstant això, perquè els informes generats per IA siguin fiables, han d'incorporar indicadors de confiança. Q2BSTUDIO desenvolupa dashboards que mostren no només les prediccions, sinó també les mètriques d'incertesa associades, permetent als responsables prendre decisions informades. Això s'alinea amb la nostra visió de crear solucions de BI/Power BI que no només visualitzin dades, sinó que comuniquin el seu grau de fiabilitat.
Un altre front important és l'automatització de processos mitjançant agents d'IA. Aquests agents, quan operen en entorns dinàmics, necessiten saber quan demanar ajuda en lloc d'actuar amb informació incompleta. Q2BSTUDIO dissenya fluxos de treball on els agents poden delegar tasques a operadors humans quan la seva incertesa interna supera un llindar, garantint així la qualitat del servei. Aquesta arquitectura híbrida, que combina automatització amb supervisió humana, és la clau per a un desplegament responsable de la IA.
L'estudi del xinès clàssic ens recorda que el llenguatge no és només una qüestió de sintaxi i semàntica, sinó també de pragmàtica. Els models actuals, per molt avançats que siguin, manquen d'una veritable comprensió de quan han de callar o admetre ignorància. Per a les empreses, això suposa un desafiament i una oportunitat: qui inverteixi en sistemes que integrin metacognició explícita obtindrà un avantatge competitiu, oferint interaccions més segures i fiables.
En Q2BSTUDIO, entenem que la tecnologia ha d'estar al servei de les persones, no al revés. Per això, cada projecte de desenvolupament de programari que abordem inclou una anàlisi profunda dels límits del model subjacent i les estratègies per mitigar els riscos de sobregeneralització. Des de la consultoria en IA fins a la implementació de solucions cloud, el nostre objectiu és que les empreses no només adoptin la intel·ligència artificial, sinó que l'utilitzin de manera conscient i efectiva.
En resum, el model de xinès clàssic ensenya que el coneixement intern sense expressió és incomplet. La veritable intel·ligència artificial, aquella que pot dir 'no ho sé' quan cal, encara està per arribar. Però amb enfocaments com RLHF, infraestructura cloud segura i un disseny centrat en l'ésser humà, cada cop estem més a prop. En Q2BSTUDIO, treballem perquè aquesta bretxa es tanqui, transformant la IA en un aliat transparent i fiable per a les empreses del segle XXI.
