La intel·ligència artificial explicable és una de les àrees més crítiques per a l'adopció responsable de models de deep learning. Dins d'aquest camp, la interpretabilitat mecànica busca descompondre les representacions neuronals en característiques més comprensibles per als humans. Una tècnica popular són els Autoencoders Dispersos (SAEs), que aprenen latents que idealment haurien de ser monosemàntics, és a dir, activar-se de forma exclusiva per a un concepte específic. No obstant això, mesurar quantitativament aquesta monosemanticitat ha estat un repte persistent. Les mètriques existents depenen d'etiquetes externes o de models d'embedding preentrenats, la geometria dels quals pot distorsionar l'avaluació. Davant aquesta limitació, sorgeix el Tversky Monosemanticity Score (TMS), una mètrica lliure d'etiquetes i de codificadors externs que proposa un nou enfocament per avaluar la coherència interna dels latents binaritzats.
El TMS es basa en la noció de coherència de conjunts d'activació. En lloc de comparar les característiques amb conceptes anotats per humans, mesura la consistència interna dels patrons d'activació de cada latent quan es binaritzen. Això evita el biaix introduït per l'anisotropia dels espais d'embedding, un problema comú en models com CLIP o DINOv3. Els experiments realitzats amb SAEs entrenats en diferents arquitectures (DINOv3, CLIP, BLIP2) i règims d'entrenament (TopK, BatchTopK) mostren que TMS s'alinea amb indicadors tradicionals de monosemanticitat, però és menys sensible a distorsions geomètriques. A més, revela dinàmiques d'entrenament diferents segons el model base, cosa que proporciona informació valuosa per ajustar hiperparàmetres.
Des d'una perspectiva empresarial, la capacitat de mesurar la qualitat de les característiques extretes pels SAEs té implicacions directes en el desenvolupament de sistemes d'IA robustos i transparents. Per exemple, una empresa que desenvolupa solucions d'IA pot utilitzar TMS per avaluar si els latents dels seus models representen conceptes nets o si estan contaminats amb informació irrellevant. Això és especialment rellevant en aplicacions on l'explicabilitat és un requisit normatiu, com al sector financer o sanitari. Q2BSTUDIO, com a empresa especialitzada en desenvolupament de programari i tecnologia, integra aquestes mètriques avançades en els seus fluxos de treball per garantir que els models que desplega siguin interpretables i fiables.
A més, la naturalesa lliure d'etiquetes de TMS facilita la seva adopció en entorns on no es disposa de conjunts de dades anotats. Això és comú en projectes d'aplicacions a mida, on les dades provenen directament del client i no sempre estan etiquetades. Combinat amb altres eines com la ciberseguretat, el núvol (AWS/Azure) o el Business Intelligence amb Power BI, Q2BSTUDIO ofereix un ecosistema complet per construir solucions intel·ligents. Per exemple, un sistema d'agents d'IA que processa dades empresarials pot beneficiar-se d'una interpretabilitat millorada per depurar comportaments no desitjats i millorar la confiança de l'usuari.
Un dels problemes que TMS resol és l'anisotropia dels codificadors d'embedding. Quan s'utilitzen models com CLIP per mesurar la similitud entre latents i conceptes, la geometria no uniforme de l'espai d'embedding pot afavorir certes direccions, donant lloc a mètriques inflades o reduïdes artificialment. TMS, en operar directament sobre les activacions binaritzades dels latents, evita aquesta distorsió. Per a una empresa com Q2BSTUDIO, que desenvolupa solucions de ciberseguretat basades en IA, disposar de mètriques fiables és crucial: un fals positiu en la interpretació d'un latent podria portar a conclusions errònies sobre el comportament del model, amb conseqüències en la detecció d'amenaces.
A més, la simplicitat computacional de TMS permet la seva integració en pipelines de machine learning amb gairebé cap sobrecàrrega. En projectes que utilitzen serveis al núvol com AWS o Azure, on cada cicle d'entrenament té un cost, disposar d'una mètrica eficient és un avantatge competitiu. Q2BSTUDIO ofereix serveis de cloud AWS/Azure que poden albergar aquests processos d'entrenament i avaluació, garantint escalabilitat i rendiment. La combinació de TMS amb eines de monitorització permet als equips de dades detectar degradacions en la qualitat dels latents al llarg del temps, una cosa especialment útil en sistemes d'agents d'IA que aprenen de forma contínua.
Un altre àmbit on TMS pot marcar la diferència és en el desenvolupament de sistemes de Business Intelligence amb Power BI. Tot i que Power BI no està directament relacionat amb SAEs, la interpretabilitat dels models que alimenten els dashboards és cada cop més demandada. Si un model d'IA genera prediccions que es visualitzen a Power BI, el responsable de negoci necessita confiar que les variables latents del model tenen sentit. TMS proporciona una garantia quantitativa que les característiques extretes són coherents, cosa que reforça la credibilitat de les analítiques. Q2BSTUDIO integra aquestes capacitats en les seves solucions de BI / Power BI, oferint un valor afegit als seus clients.
Finalment, cal destacar que la investigació en monosemanticitat encara està en evolució. El TMS no és una mètrica perfecta, però suposa un pas endavant respecte a les alternatives existents. A mesura que més empreses adoptin tècniques d'interpretabilitat mecànica, eines com TMS es tornaran estàndard. Q2BSTUDIO, com a partner tecnològic, es manté al capdavant d'aquestes innovacions per oferir als seus clients les millors solucions d'automatització i ciberseguretat, sempre amb un enfocament en la qualitat i la transparència.
