.jpg)
En el panorama actual de la intel·ligència artificial, els models de llenguatge i visió (VLM) s'han convertit en eines fonamentals per a empreses que busquen automatitzar processos, analitzar imatges o interactuar amb usuaris mitjançant agents IA. No obstant això, el seu desplegament en entorns productius planteja riscos de ciberseguretat que moltes organitzacions subestimen. Investigacions recents han revelat un nou tipus d'atac d'extracció de configuració interna: és possible recuperar la mida de pegat visual i el pipeline de preprocessament d'un VLM propietari a través d'un canal lateral basat en l'alineació de quadrícules. Aquest mètode, purament black-box, explota l'arquitectura ViT (Vision Transformer) i provoca caigudes periòdiques de precisió en superposar imatges sintètiques amb la reixeta oculta de pegats. L'atacant només necessita mesurar el rendiment del model davant patrons de quadrícula de diferents mides, i mitjançant proves de consistència pot determinar si el preprocessament utilitza resolució dinàmica o fixa, així com el valor exacte de reescalat.
Les implicacions per a la seguretat empresarial són profundes. Conèixer aquests paràmetres permet construir transfer attacks més efectius i manipular adversarialment el model objectiu. Des de els nostres serveis de ciberseguretat a Q2BSTUDIO, ajudem les organitzacions a identificar i mitigar aquest tipus de vulnerabilitats abans que siguin explotades. No n'hi ha prou amb protegir les capes lògiques; la infraestructura d'intel·ligència artificial ha de ser auditada de forma contínua, incloent la configuració de tokenitzadors, preprocessat d'imatges i el propi entorn d'execució. Les empreses que integren IA per a empreses necessiten solucions robustes que abastin des del desenvolupament d'aplicacions a mida fins a la supervisió de models desplegats en serveis cloud AWS i Azure.
La tècnica descrita demostra que fins i tot models propietaris com GPT o Claude poden filtrar informació sensible a través de respostes aparentment innocents. Per contrarestar-ho, recomanem aplicar ofuscació de pegats, afegir soroll controlat en les prediccions i limitar l'accés a les mètriques de rendiment granulars. A Q2BSTUDIO desenvolupem programari a mida que incorpora aquestes proteccions de forma nativa, a més d'integrar serveis intel·ligència de negoci amb Power BI per monitoritzar el comportament dels models en temps real. La convergència entre intel·ligència artificial i ciberseguretat exigeix un enfocament preventiu: des de l'arquitectura fins al desplegament, passant per la validació constant de possibles canals laterals. El nostre equip, especialitzat en agents IA i automatització de processos, treballa perquè cada implementació sigui segura, eficient i escalable.
