.jpg)
Quan parlem d'intel·ligència artificial, la conversa sol girar al voltant dels models: GPT, Claude, Gemini. Però després d'anys treballant en seguretat d'infraestructures tecnològiques, hem après que el veritable risc no està en el model, sinó en tot el que l'envolta. La capa d'orquestració, els gateways, els protocols de connexió amb eines externes i els sistemes d'emmagatzematge de credencials s'han convertit en l'objectiu principal dels atacants. I el pitjor és que moltes empreses continuen pensant que el seu model és el més valuós, quan en realitat la infraestructura que el sosté és la que guarda les claus del regne.
En els últims mesos hem vist com vulnerabilitats en components com els gateways d'IA permetien a un atacant amb un rol de baix privilegi escalar fins a controlar tot el sistema, accedir a claus de proveïdors cloud, llegir converses amb dades sensibles i fins i tot modificar les respostes del model per executar ordres malicioses en els equips dels desenvolupadors. Aquests incidents no es van deure a errors en el model d'IA, sinó a problemes d'arquitectura: capes que es comuniquen entre si amb suposicions incorrectes, camps que desapareixen en passar d'un middleware a un altre, i decisions de disseny que prioritzen la flexibilitat sobre la seguretat.
la lliçó és clara: la seguretat de la IA no es resol afinant el model, sinó revisant com es connecten tots els components. Des de Q2BSTUDIO oferim serveis de ciberseguretat i pentesting especialitzats en aquest nou escenari, on analitzem no només les aplicacions, sinó les relacions entre elles. Perquè un error no està en una línia de codi, sinó en el desajust entre dos sistemes que haurien de confiar l'un en l'altre i no ho fan correctament.
La indústria ha començat a parlar de seguretat en orquestració, però encara estem en la fase primerenca. Moltes organitzacions despleguen agents IA, gateways i servidors MCP sense un model d'amenaces adequat, assumint que la seguretat del model és suficient. Res més lluny de la realitat. Un gateway d'IA sol tenir visibilitat sobre totes les claus d'API, les polítiques d'encaminament, els logs de converses i les credencials dels sistemes connectats. És un punt únic de fallada que, si es compromet, deixa al descobert tota la infraestructura.
Per a les empreses que estan adoptant intel·ligència artificial, el primer pas és reconèixer que la infraestructura d'IA és tan crítica com el propi negoci. Recomanem tractar els gateways i orquestradors com si fossin sistemes d'identitat o IAM. Això implica aplicar pegats de seguretat amb la mateixa urgència que en els sistemes exposats a internet, auditar els permisos entre capes, i assegurar-se que cap component pugui escalar privilegis sense control.
En Q2BSTUDIO desenvolupem solucions d'IA per a empreses que integren aquestes bones pràctiques des del disseny. Creem aplicacions a mida i programari a mida que no només compleixen amb els requisits funcionals, sinó que incorporen una arquitectura segura per defecte. Treballem amb serveis cloud AWS i Azure per desplegar infraestructures escalables, i utilitzem eines de serveis d'intel·ligència de negoci com Power BI per oferir visibilitat sobre el rendiment i la seguretat dels sistemes. A més, desenvolupem agents IA que operen dins de límits de seguretat definits, evitant que un error en la comunicació entre components es converteixi en una bretxa.
El canvi de paradigma és profund: abans protegíem dades, ara protegim execució. Un atacant ja no només vol llegir informació, vol influir en el que el sistema fa. Pot modificar una crida a una eina, reencaminar una sol·licitud o promoure un usuari a administrador. L'única forma de defensar-se és entendre que la infraestructura d'IA és el nou centre de gravetat de la seguretat empresarial. Preguntem-nos, com fa un bon professional de seguretat: què pot sortir malament? I actuem en conseqüència abans que els atacants ho facin per nosaltres.
