.jpg)
La computació al núvol ha transformat la manera com es despleguen models d'intel·ligència artificial de gran escala, especialment aquells que combinen processament a la vora (edge) amb servidors centralitzats. Aquesta arquitectura, coneguda com a inferència cloud-edge, permet repartir la càrrega computacional entre dispositius locals i el núvol, reduint la latència i optimitzant l'ús de recursos. Tanmateix, aquesta divisió introdueix un nou vector d'atac que fins ara ha rebut poca atenció: la manipulació dels tokens visuals generats per models de llenguatge i visió de gran mida (LVLM).
Un equip d'investigadors ha posat de manifest una vulnerabilitat crítica en aquest tipus de sistemes. En un escenari d'atac man-in-the-middle, un adversari pot interceptar la comunicació entre el dispositiu edge i el servidor cloud, modificant una petita fracció dels tokens visuals transmesos. Tot i que l'atac es realitza sota restriccions de pressupost (és a dir, només pot alterar un nombre limitat de tokens), els resultats són alarmants: amb només manipular el 10% dels tokens es pot reduir la precisió del model fins a un 88%. Aquestes troballes demostren que la seguretat en la inferència distribuïda no es pot donar per feta.
Per entendre la gravetat del problema, cal considerar com funcionen aquests models. Els LVLM processen imatges i text de manera conjunta, generant una seqüència de tokens que representen informació visual. En una arquitectura cloud-edge, el dispositiu edge extreu aquests tokens i els envia al servidor cloud per al processament final. Si un atacant intercepta i modifica aquests tokens, pot induir el model a cometre errors greus, des de classificacions incorrectes fins a respostes completament desencertades. Les estratègies d'atac van des de mètodes enginyosos basats en optimització fins a enfocaments més directes com la substitució aleatòria o basada en gradients.
Aquest tipus d'amenaces no és aïllat. En l'àmbit de la ciberseguretat, cada dia sorgeixen noves superfícies d'atac que requereixen solucions proactives. Les empreses que despleguen intel·ligència artificial en entorns cloud han de considerar no només la seguretat de les dades en repòs o en trànsit, sinó també la integritat dels processos intermedis. A Q2BSTUDIO, com a empresa de desenvolupament de programari, entenem la importància de protegir cada capa de l'ecosistema tecnològic. Per això oferim serveis de ciberseguretat i pentesting que ajuden a identificar vulnerabilitats abans que siguin explotades.
La solució a aquest problema passa per diverses línies d'acció. D'una banda, és fonamental implementar mecanismes de verificació d'integritat en la transmissió de tokens, com signatures digitals o checksums criptogràfics. De l'altra, es poden dissenyar arquitectures d'inferència que tolerin certa corrupció de tokens, mitjançant tècniques de regularització o entrenament adversarial. A més, la segmentació de la xarxa i l'ús de canals xifrats són pràctiques bàsiques que qualsevol desplegament cloud-edge hauria d'adoptar. En aquest context, les empreses que treballen amb serveis cloud AWS i Azure han d'assegurar-se que les seves configuracions de xarxa i les seves API estiguin degudament protegides.
Més enllà de la seguretat, la inferència cloud-edge té un enorme potencial per a aplicacions com la visió per computador en temps real, l'assistència remota o l'automatització industrial. Tanmateix, la seva adopció ha d'anar acompanyada d'una maduresa en les pràctiques de desenvolupament. A Q2BSTUDIO ajudem les organitzacions a crear solucions d'IA per a empreses que no només siguin eficients, sinó també robustes davant d'atacs. Treballem amb agents IA i models de llenguatge que es poden integrar en fluxos de treball segurs, i també oferim Power BI per visualitzar dades de monitoratge de seguretat. La combinació d'intel·ligència de negoci amb ciberseguretat permet detectar patrons anòmals en el trànsit de tokens i respondre de manera automatitzada.
El estudi esmentat revela una bretxa de seguretat que afecta models d'entre 3 mil milions i 72 mil milions de paràmetres, avaluats en quatre benchmarks diferents. Això indica que la vulnerabilitat és transversal, independentment de la mida o l'arquitectura del model. Per tant, no és un problema menor que es pugui ignorar. Les organitzacions que estan adoptant arquitectures cloud-edge per als seus sistemes d'IA han d'incloure proves de penetració específiques per a aquest vector d'atac. Des del desenvolupament d'aplicacions a mida fins a la implementació de programari a mida, és crucial integrar la seguretat des de la fase de disseny.
En resum, la manipulació de tokens visuals en inferència cloud-edge és una amenaça real i quantificable. La comunitat de seguretat i els desenvolupadors d'IA han de col·laborar per crear models més resistents i canals de comunicació més segurs. A Q2BSTUDIO, com a partner tecnològic, oferim consultoria i desenvolupament que aborden aquests desafiaments de manera integral, des de la infraestructura cloud fins a la capa d'aplicació, garantint que la innovació no comprometi la seguretat.
