.jpg)
L'auge dels agents d'intel·ligència artificial que operen directament a l'equip local de l'usuari ha suposat un salt qualitatiu en l'automatització de tasques quotidianes: des de la gestió del correu electrònic fins a la navegació web o l'administració de fitxers. Tanmateix, aquesta proximitat amb els recursos del sistema —xarxa, sistema de fitxers i shell— obre la porta a una amenaça creixent: la injecció indirecta d'instruccions (IPI). A diferència dels atacs tradicionals, la IPI explota la confiança de l'agent en dades que provenen de fonts externes no verificades, com un correu electrònic maliciós o un document descarregat. L'agent, en llegir aquestes dades, pot interpretar-les com a ordres legítimes i executar-les sense supervisió, comprometent la seguretat del dispositiu i la privadesa de l'usuari.
Les defenses inicials, basades en models de doble LLM (Large Language Model), intentaven aïllar les dades no fiables substituint-les per símbols que l'agent pogués referenciar però no llegir. No obstant, aquestes solucions presentaven una debilitat crítica: només rastrejaven la desconfiança dins del context actiu de l'agent. Quan l'agent desava una dada potencialment perillosa al sistema de fitxers i després la recuperava, aquesta dada —que podia contenir una instrucció maliciosa— tornava al context com si fos de confiança, simplement perquè havia estat emmagatzemada i rellegida. Aquest fenomen, conegut com a IPI emmagatzemada, demostrava que qualsevol defensa que ignori l'entorn real de l'usuari —on humans i programes comparteixen el mateix espai de treball— és incompleta.
Davant d'aquest repte, sorgeix un enfocament innovador que estén la traçabilitat de les dades no fiables més enllà del context de l'agent, abastant tot l'entorn de l'usuari: el sistema de fitxers, la shell, la xarxa i fins i tot altres agents. La idea central és proporcionar dues vistes diferents per a cada canal de comunicació. A la vista de l'agent, les dades no fiables es presenten com a símbols innocus, fins i tot després d'haver estat escrites i llegides de tornada, bloquejant així la IPI emmagatzemada. Mentrestant, la vista humana conserva les dades originals perquè les persones i les eines externes puguin treballar-hi sense restriccions. Aquest mecanisme de doble vista redirigeix cada crida d'eina a l'entorn adequat i sincronitza la informació entre ambdues perspectives, garantint que l'agent mai entri en contacte directe amb instruccions malicioses.
El que és interessant d'aquesta proposta és que es desplega com un plugin sobre l'agent existent, utilitzant només els hooks de les eines, sense necessitat de modificar la lògica interna de l'agent ni les implementacions de les pròpies eines. En aïllar les dades no fiables per disseny, la protecció no es limita a patrons d'atac coneguts, sinó que ofereix una barrera efectiva davant de vectors emergents. A les avaluacions realitzades sobre benchmarks específics d'IPI i tasques quotidianes, aquesta solució ha demostrat bloquejar tots els intents d'injecció, inclosa la variant emmagatzemada, mantenint una utilitat gairebé idèntica a la d'un sistema sense protecció.
Per a les empreses que estan adoptant IA per a empreses mitjançant agents IA locals, la seguretat es converteix en un pilar innegociable. La injecció indirecta d'instruccions no només pot exposar dades sensibles, sinó també permetre que un atacant executi ordres arbitràries al sistema. Per això, comptar amb estratègies de ciberseguretat robustes és tan important com la pròpia funcionalitat de l'agent. A Q2BSTUDIO entenem que la protecció s'ha d'integrar des del disseny, i per això oferim solucions d'intel·ligència artificial per a empreses que prioritzen tant l'eficiència operativa com la seguretat de les dades.
A més, la implementació d'aquests sistemes sol requerir un ecosistema tecnològic sòlid. Els nostres serveis cloud aws i azure permeten desplegar agents amb l'escalabilitat i el control necessaris, mentre que el desenvolupament d'aplicacions a mida i programari a mida assegura que cada eina s'adapti perfectament als fluxos de treball de l'organització. Fins i tot en l'àmbit de l'anàlisi de dades, amb serveis intel·ligència de negoci com power bi, podem integrar alertes de seguretat que monitoritzin el comportament dels agents en temps real.
En definitiva, l'evolució dels agents IA locals està redefinint l'automatització, però també exigeix repensar la seguretat des d'una perspectiva holística. La proposta de doble vista representa un avenç significatiu en tancar la bretxa de la IPI emmagatzemada, demostrant que és possible mantenir la utilitat sense sacrificar la protecció. Per a les empreses que busquen fer el salt cap a una automatització intel·ligent i segura, els nostres serveis de ciberseguretat i pentesting ofereixen l'acompanyament necessari per implementar aquestes defenses de manera efectiva.
