Els models mundials compactes representen una de les fronteres més interessants de la intel·ligència artificial. En lloc d'emmagatzemar cada detall visual de l'entorn, treballen amb una representació comprimida que es pot condicionar mitjançant una instrucció en llenguatge natural. En teoria, això permet que un sistema reconegui relacions espacials, físiques o causals a partir d'un conjunt reduït d'àncores de referència. En la pràctica, però, aquesta arquitectura pot aprendre una drecera: no percebre l'escena, sinó transcriure la instrucció.
El cas més clar apareix en una avaluació recent d'un model condicionat per objectiu. La precisió de lectura de relacions arribava a un aparent 0,90. Quan es retirava l'objectiu, la precisió queia a 0,27, pràcticament l'atzar. Més revelador encara: en introduir una instrucció contrafàctica, les àncores predites seguien aquesta instrucció falsa en el 94,5% dels casos, mentre que l'escenari real només es reflectia en un 2,3%. El model no mirava el món; copiava la resposta que ja era a la instrucció.
Aquest fenomen s'anomena fuita d'instrucció. La fuita apareix quan la mètrica avaluada es pot transcriure directament des de la instrucció. Si la instrucció nomena la resposta, el model pot ignorar completament les entrades no lingüístiques i encara encertar. La clau no és només que les entrades no instruccionals siguin poc predictives, sinó que el sistema descobreix que no les necessita. És un problema d'alineació entre el que mesurem i el que volem que el model aprengui.
Hem observat aquest comportament en tres entorns. En un benchmark extern com BabyAI, la fuita es reprodueix fàcilment. En un model de dinàmica cap endavant tipus Language-Table, el sistema es manté net mentre la instrucció nomena objectes o referents. Tan bon punt la instrucció comença a nomenar la direcció, apareix la fuita. A més, degradar la qualitat de l'acció no incrementa la fuita, cosa que contradiu la idea que la competència entre predictors n'és la causa principal. El problema no és l'equilibri entre senyals, sinó el disseny de la supervisió.
La solució és conceptualment senzilla, però requereix una decisió arquitectònica valenta. L'objectiu de l'agent no ha de formar part de la dinàmica interna del model de món. L'objectiu pertany a la funció de cost del planificador: és la missió que guia la cerca d'accions, no una variable que el model de percepció hagi d'endevinar. A més, cal supervisar explícitament la ruta de lectura de les àncores. Quan s'aplica aquesta correcció, la precisió es manté en 0,88 tant si es presenta l'objectiu com si s'omet. Aquesta estabilitat és el senyal que el model ha passat de transcriure a percebre.
Quin paper tenen les àncores de referència? En un model de món condicionat per llenguatge, les àncores són elements discrets que connecten la representació interna amb objectes o llocs de l'escena. Un sistema pot representar un cub com un node amb propietats de posició i color. La instrucció de col·locar un objecte a l'esquerra d'un altre es converteix en una relació entre dues àncores. El model ha de llegir aquestes àncores i projectar l'estat següent. Si la instrucció nomena la relació, la xarxa pot usar el text com a drecera i no necessita consultar les àncores. La conseqüència és que aprèn un predictor superficial.
El concepte d'àncora és útil perquè separa la lectura del món de la planificació. Una àncora és una referència explícita: un objecte, una posició o una entitat rellevant. La xarxa llegeix aquestes àncores i produeix una representació de la relació. Però si l'objectiu arriba ja amb les paraules que descriuen la relació, el predictor pot copiar-les. La solució no passa per eliminar les àncores, sinó per fer que la instrucció no contingui la resposta.
També convé distingir entre fuita d'instrucció i altres errors de generalització. Un model pot fallar en dades noves per sobreajust a l'escena. La fuita, en canvi, és un col·lapse del raonament: el model no aprèn una mera associació visual, sinó que aprèn a ignorar la visió. Això té implicacions directes en el món real. Un assistent que gestiona inventaris podria generar ordres de compra basades en la frase de l'usuari, no en l'estoc real. Un sistema de diagnòstic podria confirmar la hipòtesi del pacient en lloc d'analitzar els símptomes.
L'avaluació contrafàctica hauria de ser obligatòria en qualsevol projecte d'IA. No preguntem només si el sistema encerta, sinó si continuaria encertant quan el context canvia. A Q2BSTUDIO apliquem aquesta regla en el desenvolupament de programari amb components d'IA. Dissenyem bateries de proves on es manipula el prompt, s'amaguen variables i s'alteren les dades. Així detectem si la solució està ancorada en informació real o en una pista lingüística.
Per a una empresa de tecnologia, la lliçó és clara: els tests de precisió convencionals no són suficients. Un sistema pot superar una bateria d'avaluacions i fallar estrepitosament en producció si no s'han dissenyat proves contrafàctiques. La fuita d'instrucció és especialment perillosa en agents autònoms, assistents virtuals i sistemes de decisió basats en IA. Per això a Q2BSTUDIO integrem la detecció de fuites com a part del cicle de desenvolupament de aplicacions a mida. No n'hi ha prou que un model encerti; necessitem saber per què encerta.
La mateixa filosofia s'aplica al disseny de sistemes d'IA per a entorns empresarials. En construir un assistent que llegeix documents o un agent d'IA que planifica rutes, la supervisió s'ha de centrar en la ruta de lectura i en la separació entre objectiu i dinàmica. Si un model de llenguatge rep la instrucció d'extreure un import d'una factura, podria transcriure un número mencionat a la instrucció en lloc de llegir el document. L'arquitectura ha de forçar que la informació vingui de les dades, no del prompt.
Aquest enfocament també té implicacions en ciberseguretat. Una fuita d'instrucció pot ser explotada per un atacant per manipular la sortida d'un sistema mitjançant prompts maliciosos. Si el model confia massa en la instrucció, un usuari pot injectar una resposta falsa i fer que el sistema l'adopti com a veritat. A Q2BSTUDIO abordem aquestes vulnerabilitats amb auditories de models i proves de robustesa, integrades amb solucions de ciberseguretat i pentesting. La seguretat de la IA no és només protegir la infraestructura, sinó també garantir que el raonament del model no pugui ser segrestat per la instrucció.
En l'àmbit operatiu, la lliçó es trasllada al núvol i a la dada. Les empreses que despleguen models a AWS o Azure necessiten pipelines d'avaluació que incloguin contrafàctics i ablació de l'objectiu. No serveix de res tenir una precisió espectacular si el sistema no generalitza a instruccions noves. Igualment, en projectes de Business Intelligence i Power BI, un informe generat per IA pot ser visualment impecable i, tanmateix, estar responent a una pregunta que ja contenia la resposta. La fuita d'instrucció produeix quadres de comandament que confirmen el biaix de l'usuari en lloc de revelar la realitat de les dades.
A Q2BSTUDIO treballem amb un enfocament integral: desenvolupament de programari, intel·ligència artificial, núvol AWS/Azure, ciberseguretat i BI/Power BI. Això ens permet veure el problema complet. Un model de món amb fuites no és un error aïllat; és un símptoma d'una organització que premia la correlació superficial en lloc de la comprensió. La solució no és afegir més dades, sinó redissenyar el contracte d'aprenentatge: quina informació pot utilitzar cada component i com se supervisa la lectura del món real.
Les arquitectures compactes continuaran evolucionant. Els models mundials que condicionen el seu comportament amb llenguatge natural són massa útils per abandonar-los. Però necessiten una separació clara entre percepció, memòria i planificació. L'objectiu ha de ser una entrada per al planificador, no una crossa per al predictor. Només així aconseguirem sistemes que entenguin realment les relacions que mencionen, en lloc de repetir-les amb una màscara de comprensió.
La recomanació final per a qualsevol equip tècnic és incorporar la detecció de fuita d'instrucció a la seva bateria estàndard de tests. Feu tres proves: retireu la instrucció i comproveu si la precisió cau a l'atzar; substituïu la instrucció per una de contrafàctica i observeu si les sortides segueixen la falsedat; altereu la qualitat de les accions i vegeu si la fuita canvia. Aquestes proves revelen si el sistema percep o transcriu. A més, el protocol de detecció i el remei són aplicables a qualsevol model condicionat per objectiu la instrucció del qual nomeni la mètrica avaluada. A Q2BSTUDIO ajudem les organitzacions a construir sistemes d'IA més sòlids, amb avaluacions rigoroses i una arquitectura que separa objectius de dinàmiques. Aquesta és l'única via perquè la IA empresarial sigui fiable, auditable i realment útil.
