L'arribada dels agents d'intel·ligència artificial està transformant la manera com les empreses interactuen amb els seus sistemes. Ja no només hi ha persones davant una pantalla fent clic; ara hi ha processos autònoms que executen accions en cadena, consulten bases de dades, modifiquen registres i, sí, també eliminen informació. Davant aquesta realitat sorgeix una pregunta clau: qui revisa quan un agent d'IA decideix eliminar un arxiu, cancel·lar una subscripció o esborrar un usuari? La resposta, en la majoria dels entorns productius, és inquietant: ningú, o només una validació superficial.
Els models de control d'accés tradicionals —RBAC, SSO, registres d'auditoria— van ser dissenyats per a humans que actuen a velocitat humana, una acció alhora. Però els agents d'IA treballen en ràfegues, encadenen operacions i sovint mantenen una mateixa sessió durant hores sense supervisió directa. Això trenca tots els supòsits bàsics de seguretat. Un simple if/else en un controlador de ruta ja no és suficient quan necessitem pausar una acció destructiva per obtenir aprovació humana abans de continuar, revocar l'accés d'un agent concret sense afectar la resta, o demostrar després exactament què va ocórrer i per què es va permetre. Per cobrir aquesta bretxa és necessari un enfocament més sofisticat, basat en manifestos d' accions i un model de tokens duals: un de delegació general i un altre d' aprovació per acció sensible. Aquest tipus d'arquitectura permet que un agent pugui operar amb fluïdesa en el 95 % dels casos, però que en operacions com esborrats, reemborsaments o canvis de permisos es requereixi un checkpoint humà amb proves irrefutables de consentiment.
Des de Q2BSTUDIO, com a empresa de desenvolupament de programari i tecnologia, entenem que la integració d' agents d' IA en els fluxos empresarials no es pot fer sense una capa de control robusta. Per això oferim solucions de ia per a empreses que inclouen mecanismes d'autorització granular, traçabilitat total i la possibilitat d'incorporar supervisió humana en punts crítics. A més, dissenyem aplicacions a mida on la lògica de permisos es defineix en un únic manifest, evitant la dispersió de regles en el codi. Això no només simplifica el manteniment, sinó que permet versionar el que un agent pot fer sense necessitat de redespregar tota l'aplicació.
El repte tècnic més interessant apareix quan l'agent intenta eludir la validació humana. Per exemple, si un agent amb eines de navegació o control d'escriptori rep una URL d'aprovació, podria reenviar-la, però la prova real de consentiment —una cookie lligada a la sessió de l'humà— només es genera quan la persona carrega efectivament aquesta pàgina. Un agent purament API, per molt intel·ligent que sigui, no pot falsificar aquest pas. Aquesta distinció entre reenviar un enllaç i completar una aprovació és la clau del disseny. No obstant això, hi ha un escenari límit que cap tecnologia token resol: un producte completament anònim, sense identitat humana ni KYC en cap punt de la cadena. En aquest cas només queden límits de política. Saber on és la línia és millor que pretendre que no existeix.
La ciberseguretat en aquest nou paradigma exigeix repensar els sistemes d'auditoria. No n'hi ha prou amb registrar quin endpoint es va anomenar; cal registrar quina acció es va executar, quin token la va autoritzar i qui (humà o màquina) va donar el vistiplau definitiu. Les solucions de ciberseguretat que implementem inclouen anàlisis forense de logs i monitoratge en temps real, la qual cosa permet detectar patrons anòmals en el comportament dels agents. A més, donem suport a les empreses en la migració de les seves infraestructures a serveis cloud aws i azure, on l'escalabilitat i la seguretat es gestionen mitjançant polítiques natives, combinades amb capes d'autorització personalitzades.
La intel·ligència de negoci també juga un paper rellevant. Els registres d'accions d'agents poden alimentar panells en power bi perquè els responsables de producte i seguretat visualitzin en temps real quins agents estan actuant, amb quina freqüència i si requereixen intervenció humana. Aquests dashboards, integrats amb sistemes d'alerta, permeten respondre davant intents d'esborrat massiu o comportaments sospitosos abans que causin danys irreversibles.
En definitiva, la pregunta inicial —qui revisa quan els agents eliminen— no té una resposta única, però sí un camí tècnic clar: separar l'autorització general de l'aprovació puntual, definir un manifest d'accions com a font única de veritat, i dissenyar mecanismes de checkpoint humà que siguin resistents a la suplantació per part de la mateixa IA. En Q2BSTUDIO treballem cada dia perquè les empreses puguin adoptar la intel·ligència artificial sense sacrificar el control. Ja sigui mitjançant automatització de processos o programari a mida, el nostre objectiu és que la innovació avanci acompanyada de la millor seguretat possible.
