En els darrers mesos, l'auge dels agents d'intel·ligència artificial ha transformat la manera com les empreses automatitzen processos, gestionen clients i prenen decisions. No obstant, un incident recent —en què un agent va carregar 4.000 euros al compte de facturació equivocat sense que ningú ho notés fins dies després— ha posat sobre la taula una veritat incòmoda: les barreres de prompt, per si soles, no són suficients per garantir la seguretat en entorns productius. L'error no va ser un fall del model; l'agent va actuar exactament com va ser dissenyat, amb credencials àmplies, sense límits d'abast i sense una auditoria que registrés l'acció. El problema va ser de plataforma, no de prompt.
Quan parlem d'agents d'IA, tendim a centrar-nos en la qualitat de les instruccions i en la capacitat del model per entendre contextos. Però l'experiència demostra que fins i tot el millor prompt falla si la infraestructura que el sosté manca de barreres d'identitat, permisos granulars i traçabilitat. A Q2BSTUDIO, empresa de desenvolupament de programari i tecnologia, fa anys que apliquem aquests principis en projectes d'aplicacions a mida, on la seguretat no és una capa addicional, sinó un pilar arquitectònic des del disseny.
Per entendre per què les barreres de prompt són insuficients, primer cal distingir entre dos nivells de control. El primer és el nivell semàntic: les instruccions que donem al model perquè no realitzi accions no desitjades. El segon és el nivell sistèmic: les regles i mecanismes que la plataforma imposa abans, durant i després de l'execució de l'agent. Un prompt ben escrit pot evitar que el model esmenti dades sensibles, però no pot evitar que l'agent faci servir una API amb credencials massa permissives per escriure en una base de dades equivocada.
La seguretat en plataforma per a agents implica, com a mínim, tres capes. La primera és la identitat i autenticació: cada agent ha de tenir una identitat única, amb permisos específics per a cada recurs (bases de dades, API, sistemes de fitxers). La segona és la delimitació d'abast: l'agent només ha de poder interactuar amb els sistemes i dades que necessita per a la seva tasca, i res més. La tercera és l'auditoria completa: cada acció de l'agent ha de ser registrada, amb timestamp, identitat de l'agent, dades d'entrada i sortida, i resultat. Sense aquestes capes, qualsevol error de prompt —o fins i tot un comportament perfectament raonable però contextualment erroni— pot tenir conseqüències greus.
En el cas de l'agent que va facturar al compte equivocat, el problema no va ser que el model interpretés malament la instrucció. El problema va ser que l'agent tenia accés complet a l'API de facturació, sense restriccions sobre quins comptes podia modificar. Un sistema de plataforma ben dissenyat hauria exigit que l'agent presentés un token d'autorització per a cada compte específic, o que operés dins d'un 'sandbox' de facturació limitat als comptes assignats a aquell agent. Res d'això existia.
Aquest tipus d'arquitectura de seguretat no és nova. Al món de les aplicacions empresarials, s'apliquen principis de mínim privilegi, separació de responsabilitats i registre d'auditoria des de fa dècades. La novetat és que ara els hem d'aplicar també als agents d'IA, que són programari autònom amb capacitats de decisió. I aquí és on moltes empreses cometen l'error de tractar la IA com un component màgic que no necessita les mateixes proteccions que una aplicació tradicional. Res més lluny de la realitat.
Des de Q2BSTUDIO, recomanem integrar aquests controls a la plataforma de desplegament d'agents, no al prompt. Això significa utilitzar sistemes d'identitat federada (com OAuth o SAML) per a cada agent, establir polítiques d'accés basades en rols (RBAC) que limitin l'abast de les API, i desplegar un cicle d'auditoria continu que alimenti quadres de comandament d'IA i Business Intelligence. De fet, la combinació d'agents amb plataformes de BI com Power BI permet visualitzar en temps real les accions dels agents, detectar anomalies i reaccionar abans que un error es converteixi en una crisi.
Un altre aspecte crucial és la ciberseguretat. Els agents d'IA són vectors d'atac potencials: si un atacant aconsegueix alterar el prompt o interceptar les credencials d'un agent, pot aconseguir accés a sistemes crítics. Per això, a Q2BSTUDIO apliquem les mateixes pràctiques de seguretat que en qualsevol altre projecte de ciberseguretat: pentesting específic sobre agents, revisió de permisos, xifrat de comunicacions i monitorització contínua. No podem confiar únicament que el prompt sigui correcte; hem d'assumir que l'agent pot ser compromès i dissenyar la plataforma per contenir el dany.
El núvol també juga un paper fonamental. Tant AWS com Azure ofereixen serveis d'identitat i control d'accés que es poden aplicar directament als agents. Per exemple, AWS IAM permet definir rols per a cada agent amb polítiques molt detallades, mentre que Azure Managed Identities proporciona una identitat automàtica i segura. A Q2BSTUDIO ajudem els nostres clients a dissenyar arquitectures al núvol (AWS/Azure) que integrin agents d'IA amb aquests mecanismes de seguretat des del primer dia. No es tracta d'afegir un tallafoc després, sinó de construir la plataforma amb aquests límits incorporats.
Tornant a l'incident inicial, la lliçó és clara: les barreres de prompt són una eina útil, però no una muralla. La veritable seguretat per als agents d'IA rau en la plataforma que els executa. Si una empresa desplega agents sense identitat granular, sense límits d'abast i sense auditoria, està assumint un risc innecessari. A Q2BSTUDIO sabem que l'excel·lència tècnica no està només en el model, sinó en la infraestructura que el sustenta. Per això treballem amb els nostres clients en projectes d'automatització de processos i BI/Power BI per garantir que cada agent actuï dins d'uns límits segurs, traçables i controlables.
En definitiva, la propera vegada que un equip es plantegi afegir més instruccions al prompt per evitar errors, hauria de preguntar-se primer: la meva plataforma permet que l'agent faci alguna cosa que no hauria, encara que el prompt sigui perfecte? Si la resposta és sí, llavors el problema no és de prompt, és de plataforma. I aquí és on realment hem de posar el focus.
