Els agents basats en grans models de llenguatge han deixat de ser simples assistents de conversa. Avui executen accions, consulten sistemes i transformen processos de negoci. Tanmateix, aquesta capacitat operativa introdueix un risc subtil: el model pot prendre decisions que contradiuen la política de l'empresa i, tot i això, fer-ho amb una aparença completament normal.
La fallada no és sempre una al·lucinació visible. Un agent pot enviar una sol·licitud sintàcticament vàlida a una eina i, si l'eina permet transicions d'estat prohibides per la política del domini, el sistema arriba a un estat incorrecte sense que cap error ho delati. Aquesta fallada silenciosa és especialment perillosa perquè no apareix en els registres d'error ni en el missatge de confirmació del mateix agent.
Pensi's en un procés d'aprovació: l'agent té permís tècnic per cridar una API, però la política diu que no ho ha de fer sense una verificació prèvia. L'API accepta la petició, l'agent informa de l'èxit i ningú detecta que s'ha saltat el control. És un escenari que es pot repetir en reserves, reemborsaments, altes d'usuari, canvis d'inventari o qualsevol domini on l'acció i la política no estiguin acoblades.
Davant d'aquest panorama, emergeix un principi cada vegada més rellevant: raona menys, verifica més. No és una invitació a retallar la intel·ligència del sistema, sinó a deixar de confiar únicament en el raonament del model per garantir el compliment normatiu. La verificació s'ha de traslladar a una capa determinista, previsible i auditable, situada en el límit exacte entre la intenció de l'agent i l'execució de l'acció.
Les comportes deterministes de preexecució són el mecanisme central d'aquesta idea. Es tracta de mòduls de només lectura que inspeccionen la crida proposada i l'estat actual abans de permetre qualsevol escriptura. No generen text, no invoquen el model i no depenen d'heurístiques probabilístiques. Avaluen l'acció contra regles explícites: si la transició està permesa, quines condicions s'han de complir i qui està autoritzat a sol·licitar-la.
En el desenvolupament de programari tradicional, aquesta validació prèvia és una pràctica habitual. Una interfície d'usuari no modifica una base de dades sense comprovar abans que els camps són correctes. Un servei no en crida un altre sense autenticar la petició. El sorprenent és que aquesta disciplina s'ha difuminat quan l'actor és un model de llenguatge. La inèrcia de tractar el model com un oracle fa que s'ometin comportes que en qualsevol altre component serien obligatòries.
Les comportes no són un substitut del bon prompting ni de l'ajust fi. Són una barana de seguretat complementària. Es poden aplicar en quatre plans: validació de política, validació d'estat, validació de permisos i verificació d'efectes secundaris. Cada pla respon a una pregunta diferent: ho permet la normativa? és coherent amb l'estat actual? té autoritat l'actor? quines altres conseqüències tindrà aquesta escriptura?
L'experiència pràctica demostra que aquest enfocament produeix millores reproduïbles. En entorns on les eines accepten qualsevol crida ben formada, la inclusió de comportes redueix la taxa de fallades silencioses i eleva l'èxit global de la tasca. Les dades varien segons el model i el domini, però ofereixen una conclusió estable: la verificació determinista aporta més quan l'eina és permissiva, i suma poc quan el propi sistema ja es protegeix.
L'impacte empresarial és considerable. Una fallada silenciosa en un agent d'atenció al client, en un sistema d'aprovació de crèdits o en un assistent d'operacions logístiques no és un simple error de predicció. És una pèrdua econòmica, un problema de compliment i una erosió de la confiança en l'automatització. Les comportes no eviten tots els errors, però sí que converteixen una classe de fallada invisible en un bloqueig explícit.
Des de la perspectiva de la governança del programari, una comporta és també un punt d'auditoria. Cada veto queda registrat, amb la identitat de l'agent, l'acció proposada i la regla aplicada. Aquesta traçabilitat és imprescindible per poder explicar davant d'un regulador per què un sistema automàtic no va realitzar una operació concreta, o per detectar patrons d'ús maliciós abans que es converteixin en incidents.
A Q2BSTUDIO portem aquest principi a la pràctica en el desenvolupament de solucions d'IA aplicada a processos reals. Treballem amb empreses que necessiten integrar agents d'IA en els seus fluxos de treball sense renunciar al control. Per a nosaltres, un agent no és un component màgic, sinó un mòdul més d'una arquitectura de programari, amb requisits de seguretat, concurrència i traçabilitat.
El nostre enfocament combina aplicacions a mida amb governança d'agents. Construïm sistemes on les decisions del LLM passen per comportes deterministes implementades al backend. Així, el model proposa, però la política decideix. Aquest patró és aplicable a qualsevol sector i es pot desplegar en núvol AWS/Azure, amb escalat elàstic i registres d'auditoria centralitzats.
A més, la ciberseguretat es beneficia d'aquesta mateixa lògica. Una comporta és, al cap i a la fi, un control d'accés i una barrera antifrau. Determina què pot fer un agent, en quines condicions i amb quina autorització. En serveis de ciberseguretat i pentesting revisem precisament aquest tipus de descuits: sistemes que confien en la bona fe de l'actor sense validar la transició.
L'observabilitat és un altre pilar. Una comporta genera un esdeveniment cada vegada que bloqueja una acció. Aquest esdeveniment, per si sol, és informació valuosa per entendre què s'està intentant fer i per què. Amb eines de BI i Power BI, per exemple, es poden construir quadres de comandament que mostrin la freqüència de bloquejos, els tipus de política vulnerada i els agents amb pitjors resultats. Així, la verificació es converteix en una font contínua de millora.
Cal ser honestos sobre els límits. Les comportes deterministes no garanteixen que una tasca es completi amb èxit. Poden frenar accions legítimes si la política està mal definida, i no substitueixen el criteri humà en casos ambigus. El seu valor és en el seu determinisme: davant d'una transició no permesa, el resultat és sempre el mateix bloqueig, sense dependre de l'estat intern del model.
La conclusió de tot això és un canvi de prioritats en el disseny d'agents d'IA. Hem passat massa temps intentant que el model raoni millor i molt poc construint defenses fiables al voltant de les seves accions. L'expressió raona menys, verifica més resumeix aquesta correcció de rumb. La propera generació d'agents no es distingirà per la seva eloqüència, sinó per la seva capacitat d'operar dins d'uns límits verificables.
