La creixent adopció de models de llenguatge de gran escala (LLM) en entorns empresarials ha obert la porta a innombrables possibilitats, des de l'automatització de processos fins a la generació d'informes intel·ligents. Tanmateix, un dels reptes més urgents és com combinar múltiples models afinats (fine-tuned) per a tasques específiques sense que el rendiment global es ressenti degut a conflictes paramètrics. Tradicionalment, tècniques com el promitjat directe de pesos o l'enrutament per model —que selecciona un expert diferent per a cada inferència— han estat les solucions més comunes, però ambdues presenten limitacions importants: la primera provoca degradació quan els paràmetres entren en conflicte, i la segona dispara els costos d'emmagatzematge i còmput, a més de malgastar el coneixement compartit entre models.
En aquest context neix Mediator, una proposta conceptual que aborda la fusió eficient de LLM mitjançant enrutament basat en incertesa. La idea central és que no totes les capes d'una xarxa neuronal pateixen el mateix nivell de conflicte en promitjar-se. Algunes capes —especialment les intermèdies— poden compartir pesos sense gairebé pèrdua de precisió, mentre que d'altres, més especialitzades, requereixen un tractament diferenciat. Mediator aprofita aquesta observació per promitjar les capes amb baix conflicte i aplicar un enrutament dinàmic a nivell de tasca només en aquelles on el desacord paramètric és alt. Per reduir el cost d'emmagatzematge, s'inspira en el concepte d'aritmètica de tasques disperses: desacobla els múltiples experts afinats en un expert dens (que captura el coneixement general) i diversos experts dispersos (que emmagatzemen únicament els ajustos específics de cada tasca). Finalment, davant de mostres fora de distribució (out-of-distribution), utilitza un mecanisme de selecció basat en la incertesa de l'entrada per escollir i fusionar els experts més adequats en temps real.
Des d'una perspectiva tècnica, aquesta arquitectura no només millora el rendiment en tasques de raonament complexes —com les avaluades en els benchmarks de LLaMA i Qwen—, sinó que també redueix significativament els requisits de maquinari i memòria. Això la converteix en una solució ideal per a empreses que busquen implementar sistemes d'IA robustos sense incórrer en costos desorbitats. Per exemple, una companyia que necessiti un assistent virtual capaç de gestionar consultes tècniques, anàlisi de dades i atenció al client podria beneficiar-se d'un sistema Mediator que combini models especialitzats sense multiplicar la infraestructura.
En l'ecosistema actual, on la personalització i l'eficiència són clau, la fusió intel·ligent de models obre noves vies per al desenvolupament d'aplicacions a mida. Q2BSTUDIO, com a empresa de desenvolupament de programari i tecnologia, porta anys explorant com integrar capacitats d'IA en solucions empresarials. Els nostres equips treballen amb tecnologies com AWS i Azure per desplegar sistemes escalables que s'adapten a les necessitats específiques de cada client. L'aproximació de Mediator encaixa perfectament en la nostra filosofia: construir eines que siguin potents, rendibles i que aprenguin de la incertesa de l'entorn.
Un dels sectors on aquesta tècnica pot marcar una diferència notable és la ciberseguretat. Els sistemes de detecció d'amenaces solen requerir models entrenats en diferents tipus d'atacs (phishing, malware, intrusions). Mediator permetria ensamblar aquests experts en un únic sistema que, davant d'una sol·licitud dubtosa, activi els especialistes adequats segons el nivell de confiança de l'entrada. D'aquesta manera, es millora la taxa d'encert sense haver d'executar tots els models en paral·lel. Q2BSTUDIO ofereix serveis de ciberseguretat que poden veure's potenciats per aquest tipus d'integracions intel·ligents.
Un altre àmbit d'aplicació directa és la intel·ligència empresarial (BI). Els dashboards de Power BI, per exemple, poden beneficiar-se d'assistents basats en LLM que interpretin preguntes en llenguatge natural i generin visualitzacions dinàmiques. Amb Mediator, es podrien combinar models especialitzats en diferents dominis —finances, logística, vendes— en un únic sistema que ofereixi respostes precises sense necessitat de recarregar el motor de BI. La nostra companyia desenvolupa solucions de BI i Power BI que ja incorporen capes d'intel·ligència artificial, i la fusió eficient de models representa el següent pas natural.
L'automatització de processos és un altre front on Mediator pot aportar valor. En combinar agents d'IA entrenats per a tasques específiques —com classificació de documents, extracció de dades o generació d'informes—, les empreses poden reduir dràsticament el temps d'implementació de fluxos automatitzats. En lloc de mantenir un clúster de models separats, es desplega un únic sistema que decideix dinàmicament quin expert activar. Q2BSTUDIO ofereix serveis d'automatització de processos que s'enriqueixen amb aquestes capacitats.
Per descomptat, el núvol continua sent la plataforma predilecta per allotjar aquests sistemes. Tant AWS com Azure proporcionen serveis d'inferència escalables que s'ajusten a la demanda, però la gestió de múltiples models pot encarir la factura. Mediator, en reduir el nombre d'experts actius per inferència i emmagatzemar només els pesos diferencials, optimitza l'ús de recursos al núvol. A Q2BSTUDIO som experts en serveis cloud a AWS i Azure, i ajudem els nostres clients a dissenyar arquitectures que minimitzin costos sense sacrificar rendiment.
Més enllà dels casos concrets, la filosofia de Mediator reflecteix una tendència més àmplia: la necessitat de construir sistemes d'IA que siguin conscients de la seva pròpia incertesa. En lloc de forçar una resposta determinista, s'avalua la confiança de l'entrada i s'adapta la composició dels experts en conseqüència. Això no només millora la precisió, sinó que també proporciona una capa addicional de transparència i control, quelcom crucial en aplicacions crítiques com la salut, les finances o la ciberseguretat.
Q2BSTUDIO, amb la seva experiència en IA i desenvolupament de programari personalitzat, està en una posició privilegiada per implementar enfocaments com Mediator. Els nostres enginyers dominen tant els fonaments teòrics del machine learning com les millors pràctiques d'enginyeria de programari, cosa que permet traslladar conceptes acadèmics a productes reals. Des de la consultoria inicial fins al desplegament en producció, acompanyem les organitzacions en cada pas perquè puguin aprofitar al màxim el potencial dels LLM sense els maldecaps associats a la seva integració.
En resum, Mediator representa un avenç significatiu en la fusió eficient de models de llenguatge. En combinar promitjat selectiu de capes, enrutament dinàmic d'experts i selecció basada en incertesa, aconsegueix un equilibri òptim entre rendiment i cost. Per a les empreses que busquen adoptar IA d'última generació de forma pràctica i sostenible, aquesta aproximació ofereix un camí clar. A Q2BSTUDIO estem compromesos a portar aquestes innovacions als nostres clients, ja sigui a través d'aplicacions a mida, cloud computing, ciberseguretat, BI o automatització. El futur de la IA empresarial passa per sistemes que no només siguin intel·ligents, sinó també eficients i adaptatius.
