En els darrers anys, el Deep Learning Relacional (RDL) s'ha consolidat com una metodologia estàndard per a l'aprenentatge automàtic sobre bases de dades relacionals. Aquest enfocament converteix una base de dades en un graf heterogeni temporal, on cada tupla esdevé un node i les relacions entre claus primàries i foranes es transformen en arestes tipificades. Sobre aquest graf s'entrena una xarxa neuronal de grafs (GNN) per realitzar prediccions posteriors, com classificació o regressió. No obstant això, la seguretat d'aquesta pipeline és un aspecte crític que ha rebut poca atenció fins ara. Un atacant amb accés complet al coneixement del model i del graf pot intentar manipular la base de dades subjacent per enganyar el sistema. Aquest article analitza la robustesa adversarial d'aquest tipus de sistemes, les restriccions que afronta un atacant realista i les implicacions per a empreses que desenvolupen solucions basades en IA.
L'escenari d'atac considerat és un atac de caixa blanca: l'atacant coneix exactament com es construeix el graf i com s'entrena el model. Tanmateix, la seva capacitat d'acció està severament limitada. Només pot modificar la base de dades upstream, reescrivint referències de claus foranes, però respectant totes les restriccions d'integritat de l'esquema: validesa de la clau forana, la restricció de grau u de la clau forana (cada clau forana apunta a una única fila) i les dependències funcionals. Això converteix l'espai de pertorbacions en un conjunt combinatòriament enormement restringit, on cada edició admissible ha de mantenir la coherència de la base de dades. A més, el pressupost global de pertorbacions limita el nombre de canvis possibles, i l'efecte de cada modificació no és additiu a causa del pas de missatges a la GNN, cosa que fa inviable una cerca exhaustiva.
Per avaluar la vulnerabilitat, els investigadors han proposat set heurístiques d'atac. Dues són línies base basades en mostreig aleatori, que simplement seleccionen modificacions a l'atzar. Les altres cinc són variants guiades per gradients que exploten màscares d'arestes diferenciables per orientar la pertorbació cap a aquelles arestes que més influeixen en la sortida del model. Aquestes tècniques es van avaluar al benchmark RelBench rel-f1, un dels conjunts de dades estàndard per a tasques d'aprenentatge relacional. Els resultats mostren que els atacs basats en gradients superen consistentment els aleatoris en tasques de regressió, mentre que en classificació la millora és menor, a causa de les baixes taxes de canvi d'etiqueta i d'una major estabilitat local de les sortides de classificació.
La naturalesa combinatòria de l'espai de pertorbacions fa que els mètodes d'optimització tradicionals siguin inviables. Les màscares d'arestes diferenciables permeten un enfocament d'optimització de gradient, on cada aresta potencial rep un pes continu que es pot ajustar mitjançant retropropagació. L'atacant selecciona les arestes amb major influència en la pèrdua objectiu, respectant les restriccions d'integritat. Aquest procés es repeteix fins a assolir el pressupost de pertorbacions. Els experiments mostren que fins i tot amb pocs canvis (per exemple, reescriure només deu referències foranes) es poden obtenir desplaçaments significatius en les prediccions de regressió.
Per a la classificació, la situació és diferent. Les sortides discretes i la menor sensibilitat de la funció de pèrdua davant canvis locals fan que els atacs siguin menys efectius. No obstant, en escenaris on les etiquetes són rares o desbalancejades, un atac ben dirigit podria forçar canvis de classe. Això és rellevant en sistemes de detecció de frau o diagnòstic mèdic basats en bases de dades relacionals.
Aquesta troballa té conseqüències importants per a la seguretat de sistemes basats en bases de dades relacionals que utilitzen GNN. Per exemple, en aplicacions financeres, de frau o de recomanació, un atacant podria alterar lleugerament les connexions entre registres per esbiaixar les prediccions sense violar aparentment les regles d'integritat. La detecció d'aquest tipus de manipulacions és complexa, ja que l'atac actua a nivell semàntic, no a nivell d'injecció de dades.
Per a les organitzacions que implementen solucions d'IA, la protecció contra atacs adversaris ha de ser una prioritat. Aquí és on Q2BSTUDIO ofereix un valor diferencial. Com a empresa especialitzada en desenvolupament d'aplicacions a mida, Q2BSTUDIO integra pràctiques de ciberseguretat des de la fase de disseny de models d'IA. Per exemple, mitjançant auditories de seguretat i proves de penetració (pentesting) sobre pipelines de machine learning, es poden identificar vulnerabilitats abans que siguin explotades. Els serveis de ciberseguretat avançada de Q2BSTUDIO ajuden les empreses a blindar els seus sistemes davant d'atacs adversaris, assegurant que les decisions basades en IA siguin fiables.
A més, la infraestructura al núvol juga un paper crucial. Desplegar aquests models en plataformes com AWS o Azure permet escalar i monitoritzar el comportament en temps real, facilitant la detecció d'anomalies. La combinació de núvol amb eines de Business Intelligence (BI) com Power BI permet visualitzar mètriques de rendiment i detectar patrons sospitosos. Q2BSTUDIO també ofereix serveis de intel·ligència artificial aplicada, incloent-hi la creació d'agents d'IA que automatitzen respostes davant possibles atacs, minimitzant el temps de reacció. Així mateix, el desenvolupament d'aplicacions a mida garanteix que cada solució s'adapti exactament a les necessitats de seguretat i escalabilitat de l'empresa.
Les defenses contra aquests atacs inclouen l'entrenament adversarial, la purificació del graf i la incorporació de regularitzadors que penalitzin canvis bruscs en les representacions. Q2BSTUDIO, amb la seva experiència en desenvolupament d'aplicacions a mida, pot integrar aquestes defenses en solucions personalitzades. A més, l'ús de núvol AWS/Azure permet implementar monitoratge continu i alertes davant d'anomalies en les consultes a la base de dades que podrien indicar un atac en curs.
L'analítica de dades amb Power BI també juga un rol preventiu: en visualitzar les distribucions de les arestes i les prediccions, els equips de seguretat poden identificar patrons anòmals. Els agents d'IA poden actuar com a sentinelles, reentrenant el model automàticament quan es detecten desviacions. Tot això forma part d'un ecosistema de ciberseguretat que Q2BSTUDIO ajuda a construir, des de la base de dades fins a la capa de presentació.
En conclusió, la investigació sobre atacs adversaris en Deep Learning Relacional revela que, tot i que els atacs basats en gradients són més efectius que els aleatoris, l'efectivitat depèn del tipus de tasca. Les restriccions d'integritat de la base de dades limiten significativament l'espai d'atac, però no l'eliminen completament. Les empreses que confien en models predictius sobre bases de dades relacionals han de considerar la seguretat com un component essencial. Amb el suport de socis tecnològics com Q2BSTUDIO, és possible desenvolupar sistemes robustos, escalables i segurs, aprofitant el millor del núvol, la IA i el desenvolupament d'aplicacions a mida.
