.jpg)
En el panorama actual de la intel·ligència artificial, els grans models de llenguatge (LLM) s'han convertit en un actiu estratègic per a empreses de tots els sectors. No obstant això, l'arquitectura interna d'aquests models sol ser un secret gelosament guardat pels proveïdors comercials. Investigacions recents demostren que, fins i tot amb les API més restrictives —aquelles que només retornen un únic logit per token sense possibilitat de bias— és possible estimar paràmetres clau com la dimensió oculta, la profunditat i el nombre total de paràmetres del model. Aquesta troballa obre importants debats sobre la seguretat, la propietat intel·lectual i la transparència en l'ecosistema de la IA.
El mètode descrit, conegut com a NightVision, empra una tècnica de prompting comú sobre un conjunt fix de tokens, combinada amb anàlisi espectral de les log-probabilitats obtingudes. A partir d'aquí, utilitzant mesures de temps fins al primer token (TTFT) i la dimensió oculta estimada, es pot inferir la profunditat i el recompte de paràmetres amb errors relatius que oscil·len entre el 9% i el 23% segons el tipus de model. Això demostra que les restriccions actuals de les API no són suficients per ocultar completament els detalls arquitectònics.
Per a les empreses que desenvolupen o despleguen LLM, aquesta vulnerabilitat té implicacions directes en la ciberseguretat dels seus sistemes. Si un competidor o un actor maliciós pot reconstruir aspectes crítics de l'arquitectura, es facilita l'enginyeria inversa, l'extracció no autoritzada de coneixement i potencialment l'explotació de debilitats. Per això, és fonamental comptar amb estratègies de protecció que vagin més enllà de simples restriccions a l'API.
A Q2BSTUDIO, entenem la complexitat d'aquests desafiaments. Com a empresa de desenvolupament de programari, oferim solucions d'intel·ligència artificial per a empreses que integren les millors pràctiques de seguretat des del disseny. A més, els nostres serveis d'aplicacions a mida permeten implementar capes addicionals d'ofuscació i control d'accés, reduint la superfície d'atac davant de tècniques com NightVision. També desenvolupem agents IA personalitzats que, en executar-se en entorns cloud gestionats, limiten l'exposició de metadades internes.
Paral·lelament, la monitorització de mètriques de rendiment com el TTFT pot ser aprofitada no només per a inferència maliciosa, sinó també per a optimització legítima. Amb els nostres serveis cloud AWS i Azure, ajudem les empreses a desplegar models de llenguatge amb configuracions que minimitzin les fuites d'informació, alhora que es manté un alt rendiment. I per a la presa de decisions basada en dades, oferim serveis d'intel·ligència de negoci amb Power BI, permetent visualitzar indicadors clau dels models sense exposar detalls sensibles.
La investigació entorn de la inferència d'arquitectures de LLM des d'API restrictives ens recorda que la seguretat en IA és un camp en constant evolució. Les empreses que adoptin un enfocament proactiu —combinant programari a mida, control d'accés granular i auditories periòdiques— estaran millor preparades per protegir la seva propietat intel·lectual. A Q2BSTUDIO, acompanyem els nostres clients en aquest camí, integrant ciberseguretat, intel·ligència artificial i serveis cloud en solucions robustes i adaptades a les seves necessitats.
