En el vertiginós avenç de la intel·ligència artificial, els models de llenguatge grans (LLMs) s'han convertit en eines essencials per a empreses que busquen automatitzar processos, millorar l'atenció al client o generar contingut. No obstant això, la seva adopció massiva comporta riscos de seguretat que no es poden ignorar. El recent descobriment publicat a arXiv (2508.10029) sobre un atac anomenat Latent Fusion Jailbreak (LFJ) demostra com és possible eludir les barreres de seguretat d'aquests models mitjançant manipulacions internes. Aquesta troballa no només preocupa els investigadors, sinó que obliga les organitzacions a replantejar les seves estratègies de ciberseguretat.
LFJ funciona aparellant una consulta maliciosa amb una altra d'aparentment benigna però estructuralment similar. Després, interpola els estats ocults de totes dues en capes i posicions específiques del transformer, utilitzant gradients de pèrdua de rebuig per determinar exactament on intervenir. El resultat: una taxa d'èxit d'atac del 94,13% en cinc models de codi obert. Aquest mètode accedeix directament a les representacions internes, cosa que el fa molt més efectiu que els atacs basats únicament en prompts. Per a les empreses que despleguen LLMs en producció, aquesta vulnerabilitat representa un risc crític que ha de gestionar-se amb solucions avançades de ciberseguretat.
La rellevància d'aquest atac va més enllà del laboratori. En un entorn empresarial on els LLMs s'integren en aplicacions a mida, des de chatbots fins a assistents virtuals, qualsevol bretxa en la seguretat pot traduir-se en filtracions de dades, respostes inadequades o fins i tot manipulació de decisions. Per això, comptar amb un soci tecnològic que entengui tant la capa d'infraestructura com la lògica dels models és fonamental. A Q2BSTUDIO, oferim serveis d'IA que inclouen auditories de seguretat específiques per a LLMs, així com el disseny de sistemes robustos davant d'aquest tipus d'atacs.
El LFJ també posa de relleu la importància de la monitorització contínua. A diferència dels atacs tradicionals, aquesta tècnica requereix accés als estats interns del model, cosa que implica que un desplegament segur ha de contemplar controls en temps real i mecanismes de defensa com l'entrenament adversarial latent que els autors proposen: en reoptimitzar l'atac contra un model defensat, la taxa d'èxit cau al 12,37%. No obstant això, aquesta defensa no cobreix altres tipus d'atac ni garanteix la utilitat benigna del model, cosa que subratlla la necessitat d'un enfocament integral.
Des d'una perspectiva tècnica, les empreses que utilitzen cloud AWS o Azure per allotjar els seus LLMs han de considerar que la seguretat no acaba en la infraestructura. La capa d'aplicació, i en concret la lògica d'inferència, és el nou camp de batalla. Per això, a Q2BSTUDIO integrem solucions de cloud AWS/Azure amb pràctiques de seguretat avançades, incloent anàlisi de vulnerabilitats en models d'IA. A més, les nostres capacitats en BI/Power BI permeten a les organitzacions visualitzar mètriques de rendiment i seguretat dels models en panells personalitzats.
Un altre aspecte crític és l'automatització de processos. Els agents IA autònoms, que prenen decisions basades en LLMs, són especialment sensibles a atacs com LFJ. Un agent mal dirigit podria emetre ordres perjudicials si s'aconsegueix evadir el seu filtre de seguretat. A Q2BSTUDIO desenvolupem agents IA amb capes de verificació addicionals i oferim serveis d'automatització que blinden cada pas del flux de decisió.
Per a les empreses que ja han invertit en aplicacions a mida amb LLMs, la recomanació és realitzar proves de penetració específiques. El LFJ demostra que fins i tot models alineats poden ser manipulats si es coneix la seva arquitectura interna. Per això, a Q2BSTUDIO realitzem avaluacions de seguretat amb metodologies com el jailbreak per fusió latent, adaptades al context de cada client. El nostre equip de ciberseguretat combina experiència en desenvolupament de programari i en intel·ligència artificial per identificar i mitigar aquests riscos abans que es converteixin en incidents.
En conclusió, el Latent Fusion Jailbreak és un recordatori que la seguretat dels LLMs no és un destí, sinó un procés continu. Les empreses han d'adoptar un enfocament holístic que abasti des del disseny del model fins al seu desplegament en producció, passant per la monitorització i la resposta davant incidents. Amb el suport d'experts com Q2BSTUDIO, és possible construir sistemes d'IA robustos, segurs i alineats amb els objectius de negoci, minimitzant els riscos d'aquest nou tipus de ciberamenaces.
