En el món vertiginós de la intel·ligència artificial, els models multimodals de llenguatge gran (MLLMs) s'enfronten a un repte fonamental: aprendre de manera contínua a través d'un flux interminable de tasques sense oblidar el que ja s'ha après. Aquest problema, conegut com a oblit catastròfic, ha portat la comunitat investigadora a explorar arquitectures com els experts LoRA (Low-Rank Adaptation) combinats amb mescles d'experts (MoE). No obstant això, enfocaments tradicionals actualitzen conjuntament l'encaminador i els experts de manera indiscriminada, provocant una deriva conjunta desalineada que desdibuixa les responsabilitats de cada expert i accelera l'oblit. Per superar-lo, neix el mètode PASs-MoE (Pathway Activation Subspaces), una proposta innovadora que estabilitza l'aprenentatge continu mitjançant subespais d'activació de rutes.
El concepte de pathway activation subspace (PAS) defineix un espai de baixa dimensionalitat induït per LoRA que reflecteix quines direccions de ruta activa una entrada a cada expert. Aquest sistema de coordenades alineat amb les capacitats permet dues intervencions clau: el Reajustament Guiat per PAS, que calibra l'encaminament fent servir els senyals d'activació de cada expert, i l'Estabilització de Rang Conscient de PAS, que estabilitza selectivament les direccions de rang importants per a tasques anteriors. Els experiments al benchmark CIT demostren que PASs-MoE supera de manera consistent les línies base convencionals d'aprenentatge continu i les variants MoE-LoRA, tant en precisió com en resistència a l'oblit, sense incrementar els paràmetres del model.
Més enllà de la recerca acadèmica, aquesta tècnica té profundes implicacions empresarials. En un entorn on les organitzacions necessiten desplegar sistemes d'IA que evolucionin amb les seves dades i processos, l'aprenentatge continu es converteix en un habilitador crític. Imaginem un sistema d'atenció al client basat en agents d'IA que ha d'integrar noves polítiques de producte cada trimestre, o un assistent de vendes que aprèn patrons de compra estacionals sense perdre el coneixement adquirit en campanyes anteriors. Aquí és on empreses com Q2BSTUDIO aporten la seva experiència. Com a companyia especialitzada en desenvolupament de programari, intel·ligència artificial i transformació digital, Q2BSTUDIO comprèn que no n'hi ha prou amb entrenar un model una vegada; cal garantir que el sistema s'adapti sense problemes a nous escenaris.
L'arquitectura PASs-MoE encaixa perfectament en solucions de programari a mida que requereixen personalització contínua. Per exemple, una plataforma de recomanacions d'e-commerce que incorpora noves categories de productes cada mes pot beneficiar-se d'un sistema d'experts que retingui el coneixement de categories anteriors mentre n'aprèn de noves. Q2BSTUDIO ofereix serveis de desenvolupament de programari a mida que integren aquestes capacitats d'aprenentatge continu, permetent a les empreses mantenir models actualitzats sense costosos reentrenaments complets.
A més, la gestió eficient d'aquests models requereix una infraestructura cloud sòlida. Les solucions al núvol d'AWS i Azure proporcionen l'escalat necessari per executar múltiples experts i encaminadors en producció. Q2BSTUDIO, amb la seva experiència en cloud AWS/Azure, ajuda les empreses a desplegar sistemes MoE-LoRA de manera rendible, garantint alta disponibilitat i baixes latències. No obstant això, la seguretat no pot ser un aspecte secundari. La ciberseguretat és fonamental quan es manegen dades sensibles en processos d'aprenentatge continu. Q2BSTUDIO integra pràctiques de ciberseguretat a cada capa de l'arquitectura, protegint tant les dades d'entrenament com les inferències en temps real.
Un altre àmbit on PASs-MoE pot marcar la diferència és en el Business Intelligence. Les eines de BI, com Power BI, es beneficien de models predictius que s'actualitzen dinàmicament amb noves dades. Un sistema d'aprenentatge continu permet que els quadres de comandament reflecteixin patrons emergents sense perdre la precisió històrica. Q2BSTUDIO ofereix serveis de BI/Power BI que integren aquestes capacitats, proporcionant als usuaris finals informació sempre actualitzada. A més, els agents d'IA que operen en entorns canviants —com assistents virtuals o robots d'automatització de processos— necessiten memòries a llarg termini i capacitat d'adaptació. La tècnica PASs-MoE ofereix un mecanisme de memòria selectiva que impedeix que l'agent oblidi instruccions prèvies en aprendre nous comandaments.
En resum, la proposta PASs-MoE no només resol un problema tècnic a la punta de llança de la recerca en IA, sinó que ofereix un camí pràctic per a empreses que busquen construir sistemes intel·ligents robustos i adaptables. En mitigar la deriva conjunta desalineada, s'aconsegueix que els experts LoRA mantinguin una especialització clara i que l'encaminador no es desviï de la seva funció original. Això es tradueix en models més fiables, amb menors costos de manteniment i major capacitat de resposta als canvis del negoci. Per a les organitzacions que volen liderar en l'era de la IA, col·laborar amb un soci tecnològic com Q2BSTUDIO —que combina coneixement en desenvolupament d'aplicacions a mida, intel·ligència artificial, cloud, ciberseguretat, BI i agents intel·ligents— és el primer pas cap a una intel·ligència artificial realment contínua i sostenible.
