En l'ecosistema digital actual, els agents d'intel·ligència artificial ja no són simples scripts automatitzats. S'han convertit en actors que participen en sistemes clínics, polítics, científics i socials, i el seu comportament pot ser tan complex com el de qualsevol humà. No obstant, diagnosticar per què un agent d'IA actua d'una determinada manera no és trivial: pot ser degut a la seva arquitectura subjacent, a les dades amb les quals va ser entrenat, o a les regles institucionals que el governen. Per abordar aquest repte, proposem un marc de diagnòstic que anomenem 'atribució per capes', un model conceptual que permet identificar l'origen del comportament abans d'intervenir, validar o governar l'agent.
Aquest enfocament s'estructura en dues grans capes. La primera, la capa computacional fonamental, defineix què pot fer un agent d'IA: inclou la seva arquitectura de xarxa, memòria, percepció, atenció i representació interna. Aquí radica la base de les seves capacitats. La segona, la capa de modulació conductual, determina com s'expressen aquestes capacitats en un entorn concret: identitat de l'agent, recursos disponibles, objectius, interaccions socials, restriccions institucionals i governança. Separar aquestes capes és essencial per evitar diagnòstics superficials i aplicar solucions adequades.
Imaginem, per exemple, un agent d'IA que actua de forma discriminatòria en la selecció de candidats per a un lloc de treball. Una anàlisi superficial podria atribuir el biaix al model d'aprenentatge automàtic (capa computacional). Però si examinem la capa de modulació, podríem descobrir que el biaix prové de les regles institucionals que prioritzen certs perfils o dels recursos limitats que l'agent pot consultar. Atribuir correctament la causa permet dissenyar intervencions més precises: des de reentrenar el model fins a modificar polítiques de governança.
Des d'una perspectiva tècnica i empresarial, aquest marc té implicacions directes. Les empreses que desenvolupen o integren agents d'IA, com Q2BSTUDIO, han de comptar amb metodologies robustes per diagnosticar el comportament dels seus sistemes. No n'hi ha prou amb validar que l'agent compleix certes mètriques de rendiment; necessitem entendre si el comportament observat és intrínsec al model o és modelat pel context d'ús. Per exemple, en un projecte de aplicacions a mida que incorporen agents d'IA, l'equip ha d'avaluar si l'agent respon segons l'esperat en diferents entorns operatius, considerant variables com restriccions de temps, disponibilitat de dades o jerarquies organitzatives.
L'atribució per capes també clarifica el concepte de 'validesa substitutiva' (surrogate validity). Un mateix agent pot tenir un comportament vàlid per a una tasca específica en una capa determinada, però ser invàlid per a una altra tasca en la mateixa capa o en una capa diferent. Per exemple, un agent entrenat per a diagnòstic mèdic pot mostrar alta precisió en la capa computacional (reconeixement d'imatges), però fallar en la capa de modulació si les regles hospitalàries limiten el seu accés a certes bases de dades. Per tant, l'avaluació ha de ser relativa a la tasca i a la capa.
D'altra banda, les divergències entre humans i agents d'IA ofereixen pistes diagnòstiques valuoses. Si un agent pren decisions que un humà expert no prendria, no necessàriament és un error: pot ser degut a que l'agent opera sota restriccions diferents (capa de modulació) o a que la seva representació del món és diferent (capa computacional). Identificar aquestes divergències ajuda a millorar tant l'agent com els processos humans.
En termes de governança, l'atribució de font és un pas previ indispensable. Abans d'imposar regulacions o corregir comportaments, hem de saber si l'arrel està en el model, en les dades, en les regles d'interacció o en la infraestructura. Per exemple, si un agent d'IA usat en ciberseguretat reacciona de forma excessiva davant certs patrons, podria ser degut a un llindar massa baix en la capa computacional o a una política de seguretat massa restrictiva en la capa de modulació. Un diagnòstic incorrecte portaria a solucions ineficaces.
En la pràctica, implementar aquest marc requereix eines tècniques que permetin inspeccionar ambdues capes. Les empreses de tecnologia, com Q2BSTUDIO, poden oferir serveis de consultoria i desenvolupament per integrar aquestes avaluacions en els cicles de vida dels agents. Per exemple, en dissenyar un sistema de BI / Power BI amb capacitats d'IA, és crucial analitzar si els informes generats per l'agent reflecteixen fidelment les dades subjacents o si estan esbiaixats per regles de negoci mal configurades. De la mateixa manera, en entorns de cloud AWS/Azure, els agents poden desplegar-se amb diferents nivells de recursos computacionals, cosa que afecta el seu comportament en la capa de modulació.
Des d'una perspectiva estratègica, les organitzacions han d'adoptar aquest marc per reduir riscos i augmentar la confiança en els sistemes d'IA. L'atribució per capes no només ajuda a identificar problemes, sinó que també facilita la comunicació entre equips tècnics i de negoci, en proporcionar un llenguatge comú per discutir el comportament dels agents. A més, permet dissenyar experiments controlats per aïllar variables i determinar causalitat.
Finalment, cal destacar que aquest marc no és estàtic. A mesura que els agents d'IA evolucionen —amb noves arquitectures, aprenentatge continu i major integració social— les capes poden interactuar de formes imprevistes. Per això, l'atribució ha de ser un procés iteratiu, recolzat en eines de monitoratge i auditoria. En resum, tractar els agents d'IA com a actors conductuals exigeix mètodes d'avaluació que determinin on s'origina el comportament abans de decidir com explicar-lo, validar-lo o governar-lo. L'atribució per capes és precisament aquest marc.
Per a les empreses que busquen implementar agents d'IA de manera responsable, comptar amb un soci tecnològic com Q2BSTUDIO resulta clau. Amb experiència en desenvolupament d'aplicacions a mida, integració cloud, ciberseguretat i BI, ofereixen solucions que permeten aplicar aquest marc de diagnòstic de forma pràctica, assegurant que els agents actuïn de manera alineada amb els objectius de negoci i els valors organitzacionals.
