L'auge dels agents de codi impulsats per grans models de llenguatge (LLMs) està transformant el desenvolupament de programari, permetent que aquestes eines generin, editen i executin codi de forma autònoma amb accés a fitxers i eines locals. Tanmateix, aquesta nova capacitat comporta riscos de seguretat significatius, tant a nivell del model base —on instruccions adversarials, dades d'entrenament enverinades o desencadenants ocults poden forçar l'emissió de codi insegur— com a nivell de l'arquitectura d'agent, on l'autonomia per fer servir eines pot facilitar l'ús indegut d'APIs externes, l'exfiltració de dades o la persistència de compromisos en entorns de desenvolupament. En aquest context, l'avaluació sistemàtica d'amenaces reals és crítica. El benchmark IssueTrojanBench, presentat recentment, avalua els agents de codi més avançats —Cursor, Claude Code i Codex Desktop—, alimentats per famílies de models com OpenAI GPT-5.3 Codex/GPT-5.4 i Anthropic Sonnet 4.6, davant d'issues maliciosos dissenyats específicament per sortejar les seves defenses. Els resultats, que mostren una taxa de penetració del 66,5% en tots els guardarraïls, revelen vulnerabilitats crítiques en els sistemes desplegats avui dia, sent la resistència gairebé exclusivament proporcionada pels LLMs i no pels marcs d'agent. Aquest escenari subratlla la urgència de reforçar els mecanismes de seguretat tant a nivell de model com d'agent.
Per a les empreses que confien en agents d'IA com a part de la seva cadena de desenvolupament, comprendre aquestes vulnerabilitats és el primer pas cap a una adopció segura. Des de Q2BSTUDIO, com a empresa de desenvolupament de programari i tecnologia, entenem que la integració de la intel·ligència artificial en els processos de creació d'aplicacions ha d'anar acompanyada d'una estratègia de ciberseguretat sòlida. El nostre equip compta amb experiència en el disseny de solucions de ciberseguretat que aborden des de l'anàlisi de vulnerabilitats fins a la implementació de controls d'accés i monitoratge continu, elements essencials per protegir els entorns on operen aquests agents. A més, quan es desenvolupen aplicacions a mida, és possible incorporar barreres de seguretat específiques contra atacs d'injecció d'instruccions o manipulació de context, cosa que els agents comercials encara no resolen de forma consistent.
L'informe d'IssueTrojanBench destaca que la defensa a nivell d'agent ofereix una protecció addicional limitada, mentre que els models LLM més recents, com Sonnet 4.6, mostren un bloqueig més selectiu i conscient del risc. Això suggereix que la propera generació d'agents de codi haurà de combinar un model base robust amb un marc d'agent que incorpori polítiques d'ús granular, validació d'accions i aïllament d'entorns. A Q2BSTUDIO treballem amb IA tant a la capa de model com a la d'agent, ajudant empreses a implementar assistents de codi que no només siguin productius, sinó també segurs. Per exemple, en desenvolupar un agent intern per automatitzar tasques de desenvolupament, integrem cloud AWS/Azure per aïllar execucions de codi en contenidors sense xarxa, evitant l'exfiltració de dades. Així mateix, les nostres solucions de BI/Power BI es beneficien d'agents que extreuen i transformen dades de forma segura, sempre sota estrictes controls d'accés.
La metodologia d'IssueTrojanBench construeix issues maliciosos basats en quatre categories noves d'atac i sis vectors de lliurament (com PDF o comentaris d'issues), a més de perturbacions addicionals. Això reflecteix la sofisticació de les amenaces actuals, que exploten no només el text del prompt, sinó també el format del contingut. Per a les organitzacions que desenvolupen aplicacions a mida, aquest enfocament és un toc d'alerta: no n'hi ha prou amb confiar en els filtres del LLM; cal implementar capes de seguretat en el propi flux de treball de l'agent. A Q2BSTUDIO oferim serveis d'automatització de processos i desenvolupament d'agents personalitzats, on dissenyem mecanismes de defensa com la sanitizació d'entrades, la limitació de permisos per acció i l'auditoria completa de cada operació. La nostra experiència en cloud AWS/Azure ens permet desplegar aquests agents en entorns aïllats, reduint la superfície d'atac.
Una altra troballa rellevant de l'estudi és que el rebuig d'instruccions malicioses prové gairebé enterament dels LLMs, mentre que els marcs d'agent (com els de Cursor o Claude Code) ofereixen una defensa marginal. Això indica que els proveïdors d'agents han de reforçar les seves arquitectures, però també que els equips de desenvolupament han d'assumir responsabilitat sobre la seguretat de les integracions. Per exemple, si una empresa utilitza un agent per generar codi que després es desplega en producció, qualsevol vulnerabilitat introduïda per l'agent podria comprometre tot el sistema. Per això, a Q2BSTUDIO combinem el desenvolupament d'IA amb pràctiques de ciberseguretat.
Des d'una perspectiva empresarial, l'adopció d'agents de codi ha d'anar acompanyada d'una avaluació de riscos contínua. IssueTrojanBench proporciona un marc per mesurar la resistència d'aquests sistemes, però cada organització l'ha d'adaptar al seu context. A Q2BSTUDIO ajudem empreses a realitzar proves de penetració específiques per a agents d'IA, identificant vectors d'atac com la manipulació d'historials de conversa o la injecció d'instruccions a través d'arxius adjunts. El nostre equip de ciberseguretat dissenya estratègies de defensa en profunditat que inclouen des del xifrat de dades fins a la segmentació de xarxa, passant pel monitoratge de comportament anòmal dels agents.
L'evolució dels agents de codi és imparable, i amb ella la necessitat de mecanismes de seguretat més robustos. L'estudi d'IssueTrojanBench és un recordatori que la tecnologia avança més ràpid que les defenses, i que les empreses no es poden permetre esperar que els proveïdors solucionin tots els problemes. A Q2BSTUDIO oferim serveis d'intel·ligència artificial que integren seguretat des del disseny, ajudant les organitzacions a aprofitar el potencial dels agents de codi sense posar en risc la seva informació ni els seus sistemes. Ja sigui mitjançant el desenvolupament d'aplicacions a mida amb controls d'accés granular, la implementació de cloud AWS/Azure per a entorns segurs, o la creació de dashboards de BI/Power BI que s'actualitzen mitjançant agents controlats, el nostre enfocament sempre prioritza la seguretat com a pilar fonamental.
En conclusió, l'avaluació d'agents de codi davant d'amenaces no és un exercici acadèmic, sinó una necessitat pràctica per a qualsevol empresa que integri IA en el seu cicle de desenvolupament. IssueTrojanBench posa de manifest que els agents actuals tenen llacunes importants, però també assenyala el camí cap a la millora: models més conscients del risc i arquitectures d'agent amb defenses proactives. A Q2BSTUDIO estem preparats per acompanyar les organitzacions en aquest camí, combinant innovació tecnològica amb una sòlida base de ciberseguretat.
