La governança d'agents d'intel·ligència artificial s'ha convertit en un dels desafiaments més urgents per a les empreses que volen escalar les seves implementacions. El dilema és conegut: com més autònom i capaç és un agent, més difícil resulta controlar les seves accions sense limitar la seva utilitat. Brex, l'empresa fintech nord-americana, ha abordat aquest problema des d'un angle poc convencional: en lloc d'escriure polítiques de seguretat basades en regles estàtiques o permisos predefinits, va decidir observar el que els agents realment fan en producció i construir les seves regles a partir d'aquest comportament real. El resultat és CrabTrap, un proxy HTTP/HTTPS de codi obert que intercepta tot el trànsit de xarxa dels agents i, combinant regles estàtiques amb un sistema de 'LLM com a jutge', decideix en temps real quines sol·licituds aprovar o denegar.
La idea central és que la capa de transport és un punt de control infrautilitzat. Cada petició que un agent envia a una API externa és una oportunitat per inspeccionar, raonar i aplicar una decisió política. En lloc de dependre únicament de guardrails a nivell de SDK, tokens d'API o permisos per acció —solucions que sovint resulten fràgils davant atacs d'injecció d'instruccions o que limiten excessivament les capacitats—, CrabTrap opera com un punt centralitzat on convergeixen totes les comunicacions sortints. Això permet que sigui independent del framework d'agents, del llenguatge de programació i de la API concreta que s'estigui utilitzant.
L'enfocament de Brex per construir les polítiques és el que realment el diferencia. En lloc de partir d'una pàgina en blanc i especificar manualment quins dominis, mètodes HTTP o cossos de sol·licitud estan permesos, l'equip va desenvolupar un 'constructor de polítiques' que funciona com un bucle agèntic. Primer, executen els agents en mode mirall (shadow mode), analitzant el trànsit històric per identificar patrons. Després, el sistema mostreja les trucades representatives i redacta automàticament un esborrany de política en llenguatge natural que reflecteix el comportament observat. Aquest esborrany es valida mitjançant un sistema d'avaluació que compara les entrades d'auditoria històriques amb la política proposada, mostrant exactament quins canvis es produirien. El procés es repeteix en minuts gràcies a l'execució concurrent de les trucades al jutge LLM, que només intervé en menys del 3% de les sol·licituds —aquelles que cauen fora dels patrons coneguts o es dirigeixen a endpoints inusuals.
Un dels majors desafiaments tècnics que van resoldre va ser la latència. Col·locar un model de llenguatge entre l'agent i cada petició podria alentir el sistema. No obstant, en restringir la intervenció del LLM a una fracció molt petita de les sol·licituds i utilitzar models lleugers com Claude Haiku, l'impacte en el rendiment va resultar insignificant. A més, el sistema es beneficia del fet que els agents, un cop en producció, tendeixen a establir patrons de trànsit predictibles, que es converteixen en regles estàtiques després de ser observats. Un altre problema crític va ser la injecció d'instruccions en el mateix jutge LLM. Atès que el jutge rep la sol·licitud HTTP completa —incloent URL, capçaleres i cos—, un atacant podria manipular aquests camps per alterar la decisió. La solució va ser estructurar la sol·licitud com un objecte JSON abans d'enviar-la al model, escapant tot el contingut controlat per l'usuari en lloc d'interpolar-lo com a text pla.
Els resultats interns han estat notables. Segons Pedro Franceschi, cofundador i CEO de Brex, la mètrica més significativa ha estat la 'confiança organitzacional'. Abans de CrabTrap, l'equip dubtava a desplegar agents autònoms en àrees crítiques del negoci per por que els guardrails existents no oferissin garanties suficients. Ara disposen d'una capa de control que els permet expandir l'ús d'agents a més departaments i delegar la configuració de polítiques als propis usuaris. A més, el proxy ha revelat l'enorme quantitat de trànsit innecessari que generen els agents: trucades a APIs que no s'utilitzen, sol·licituds redundants o endpoints que consumeixen temps i tokens. Això ha permès no només afinar les polítiques, sinó també optimitzar els mateixos agents, eliminant eines senceres que no aportaven valor.
La lliçó més important per a altres empreses és que els buits d'infraestructura no s'han de convertir en excuses per esperar. Brex va decidir construir la seva pròpia solució perquè el mercat no oferia una eina que satisfés les seves necessitats. L'enfocament de 'observar abans de reglamentar' es pot aplicar a molts altres àmbits de la intel·ligència artificial i la ciberseguretat. En lloc d'imposar restriccions a cegues, les organitzacions poden deixar que els agents —i els usuaris— mostrin primer com treballen, i després ajustar les polítiques en funció de les dades reals.
A Q2BSTUDIO entenem que cada empresa té necessitats úniques a l'hora d'integrar solucions d'IA en els seus processos. L'experiència de Brex demostra que la governança d'agents no és un problema que es resolgui únicament amb tecnologia, sinó amb una estratègia que combini observació, automatització i capes de seguretat superposades. Per això oferim serveis de ciberseguretat i desenvolupament d'aplicacions a mida que ajuden les empreses a implementar aquest tipus de controls de forma personalitzada. Ja sigui a través de proxies intel·ligents, polítiques dinàmiques o integracions amb plataformes cloud com AWS o Azure, el nostre equip pot col·laborar amb vostè per dissenyar un sistema de govern d'agents que s'adapti a la seva realitat operativa, en lloc de forçar la seva operativa a un motlle predefinit.
El futur de la governança d'agents, com apunta Brex, passa per allunyar-se dels permisos estàtics a nivell de SDK i avançar cap a un pla de control de xarxa centralitzat que aprengui del comportament real. CrabTrap és només el principi. Amb la comunitat open-source contribuint, veurem com sorgeixen funcionalitats com autenticació SSO, control d'accés basat en rols, fluxos d'escalat perquè els agents sol·licitin permisos addicionals, o fins i tot polítiques generades automàticament a partir de patrons de denegació. La filosofia de 'construir en obert' permet que aquestes innovacions arribin més ràpidament a qui les necessita. La pregunta que tota empresa s'hauria de fer no és si necessita un sistema similar, sinó quan començarà a observar-se a si mateixa per descobrir quines regles hauria de tenir.
