En l'ecosistema actual de desenvolupament assistit per intel·ligència artificial, agents com Claude Code o OpenCode s'han convertit en eines indispensable per a equips tècnics. No obstant, a mesura que el seu ús s'intensifica, sorgeix una pregunta incòmoda: quant del que paguem realment s'inverteix en tasques productives? La resposta, segons les primeres mesures d'un nou tipus de perfilador d'agents, és sorprenent: només al voltant del 60% del cost d'API correspon a les instruccions directes del desenvolupador. La resta s'esvaeix en operacions internes de l'agent: exploracions de subagents, compactació de context, resums de recuperació després d'inactivitat i fins i tot generació de títols de sessió. Aquest fenomen, que podríem anomenar 'overhead ocult', està motivant empreses i professionals a cercar transparència en el consum de tokens.
L'eina que ha destapat aquesta realitat funciona com un proxy invers transparent que s'interposa entre l'agent de codi i el proveïdor de LLM. Sense afegir latència, registra cada petició i classifica el seu propòsit en fins a onze categories: principal, cerca, compactació, resum, títol, subagent, fetch web, quota, resultat d'eina, guia i desconegut. Les dades de sessions reals revelen que el subagent de cerca pot consumir entre un 25% i un 30% dels tokens quan es demana a l'agent que 'explori a fons'. Aquestes mesures permeten als equips entendre on va realment el pressupost d'API i prendre decisions informades sobre la configuració dels seus assistents.
Un dels descobriments més impactants té a veure amb el comportament de la memòria cau del proveïdor. Claude Code, per exemple, insereix marcadors cache_control amb tipus ephemeral, però sense un TTL explícit. A la pràctica, el prefix en memòria cau —que inclou el prompt del sistema, les eines i l'historial de missatges— expira després d'uns cinc minuts d'inactivitat. Si un desenvolupador s'aixeca a llegir documentació o a prendre un cafè, en tornar la següent petició paga una escriptura completa de memòria cau sobre potencialment més de 200.000 tokens. En models com Opus, el multiplicador d'escriptura de memòria cau encareix dràsticament la primera sol·licitud. El perfilador detecta aquestes 'regeneracions en fred' i les marca amb indicadors de severitat, mostrant exactament quant ha costat cada pausa.
El problema s'agreuja en sessions llargues. Cada torn incrementa el prefix en memòria cau, per la qual cosa els costos de refresc en fred creixen de forma lineal. Una sessió de tres hores pot reescriure més de 200.000 tokens en cada expiració. A més, les definicions d'eines per si soles poden representar entre 10.000 i 15.000 tokens que es reenvien en cada crida. La temptació d'optimitzar és enorme, però l'experiència demostra que no és trivial. Un intent de construir una capa d'optimització —podant resultats d'eines obsolets, col·lapsant prompts del sistema i eliminant eines no utilitzades— va donar resultats inicials espectaculars que després van resultar erronis. L'escalfament de memòria cau entre sessions inflava les línies base, i el model de costos inicial ignorava els tokens d'escriptura de memòria cau. Un cop corregits ambdós biaixos, els estalvis virtuals van desaparèixer. Editar el prefix en memòria cau converteix lectures barates en escriptures cares, i el client reenvia l'historial complet original a cada torn de totes maneres.
Aquest escenari obliga a replantejar l'estratègia de desplegament d'agents en entorns productius. Per a les empreses que desenvolupen aplicacions a mida, conèixer aquests patrons de consum és essencial per dimensionar correctament la infraestructura i controlar els costos operatius. Integrar un perfilador d'agents en el flux de desenvolupament no només proporciona visibilitat, sinó que permet ajustar paràmetres com la freqüència de les cerques, la durada màxima de les sessions o la política de caducitat de la memòria cau. A més, l'optimització de l'ús de tokens té un impacte directe en la sostenibilitat econòmica dels projectes basats en IA, especialment quan es combinen amb serveis cloud com AWS o Azure, on el cost de les APIs pot escalar ràpidament.
La ciberseguretat també hi té un paper rellevant: en canalitzar totes les peticions a través d'un proxy, es pot auditar quina informació sensible s'envia als proveïdors de LLM i garantir que les dades de clients o propietat intel·lectual no queden exposades. Eines com aquest perfilador, que redacten secrets i no envien telemetria, ofereixen un punt de control addicional. A Q2BSTudio, on desenvolupem solucions de ciberseguretat i intel·ligència artificial, veiem una oportunitat clara de combinar la transparència en el consum de tokens amb arquitectures que minimitzin el malbaratament. Per exemple, ajustant la granularitat de les eines o implementant estratègies de memòria cau cross-session que respectin les polítiques de TTL del proveïdor.
En l'àmbit de la intel·ligència de negoci, les anàlisis de cost generades pel perfilador poden integrar-se en panells de Power BI perquè els gestors prenguin decisions basades en dades reals. A Q2BSTudio oferim serveis de BI / Power BI que permeten visualitzar aquests indicadors juntament amb altres mètriques de rendiment, creant una visió holística de la despesa en IA. L'automatització de processos també se'n beneficia: en saber exactament quant costa cada tipus de petició, es poden dissenyar fluxos que prioritzin les operacions més eficients i evitin les costoses regeneracions en fred. La nostra experiència en automatització ens ha ensenyat que el primer pas per optimitzar és mesurar, i aquest tipus de perfiladors proporcionen aquesta capacitat.
En definitiva, el perfilador d'agents IA es revela com una eina crítica per a qualsevol organització que utilitzi assistents de codi en producció. No només desvela que fins a un 40% del cost d'API pot ser overhead no atribuïble a la feina del desenvolupador, sinó que també assenyala les limitacions actuals de les estratègies de memòria cau dels proveïdors. La pregunta que queda oberta és si la memòria cau dels proveïdors és intrínsecament subòptima per al patró de peticions dels agents, o si existeixen ajustos a nivell de proxy que puguin millorar la situació. Mentrestant, la transparència que ofereixen aquestes eines permet a empreses com Q2BSTudio dissenyar desplegaments més eficients, combinant desenvolupament de programari a mida, cloud, ciberseguretat, BI i intel·ligència artificial per treure el màxim partit de la inversió en agents. El camí cap a l'eficiència comença per saber exactament on van els nostres tokens.
