La intel·ligència artificial generativa ha transformat la forma en què els desenvolupadors escriuen codi, però els models més potents, especialment els basats en arquitectures Mixture of Experts (MoE), presenten un problema pràctic: ocupen massa espai a les màquines dels desenvolupadors. Un estudi recent sobre dues famílies de models MoE oberts —Qwen3.6-35B-A3B i Gemma-4-26B-A4B— revela que és possible eliminar fins a la meitat dels experts de la xarxa sense que el rendiment en tasques de generació de codi es vegi afectat de forma estadísticament significativa. Aquesta troballa obre la porta a optimitzacions que permetin executar models grans en maquinari més modest, un objectiu que Q2BSTUDIO persegueix activament en els seus projectes d'IA aplicada.
L'estudi, que analitza cinc estratègies de poda diferents, mostra que el dany en eliminar experts recau gairebé exclusivament en capacitats alienes a la programació. Per a un usuari que només necessita assistència amb codi, aquesta pèrdua és irrellevant. No obstant això, l'estratègia guanyadora no és universal: el que funciona per a Qwen3.6 pot fallar per a Gemma-4. Això subratlla la importància de validar cada model en el seu context d'ús real, cosa que en desenvolupament d'aplicacions a mida es converteix en una pràctica essencial.
Una de les troballes més sorprenents és que la perplexitat, mètrica clàssica en el camp de la poda de xarxes neuronals, pot classificar un model trencat per sobre d'un d'intacte. Això invalida dècades de literatura que confiaven en aquesta mesura com a indicador fiable de qualitat. En el seu lloc, els autors proposen avaluar directament amb benchmarks de codi, com es faria en un escenari real. Per a una empresa de ciberseguretat com Q2BSTUDIO, que integra agents IA en les seves solucions, aquesta lliçó és clau: no n'hi ha prou que un model tingui baixa perplexitat; ha d'executar correctament el codi que generi.
L'estudi també explora estratègies per recuperar el rendiment perdut després d'una poda agressiva. Un ajust fi lleuger recupera aproximadament la meitat de la precisió sacrificada. A més, compara la poda amb la quantització, mostrant que aquesta última només guanya quan es pot baixar a menys de 3 bits per pes. Per sota d'aquest llindar, la poda resulta més eficient. Els autors van intentar cinc enfocaments per revertir aquesta conclusió —millor calibració, selecció protegida, importància causal d'experts, atribució de fallades i avaluació agentica— però cap va aconseguir moure la línia. L'avaluació agentica, on el model pot corregir els seus errors a partir de la retroalimentació d'execució, va revelar a més que les proves d'un sol llançament sobreestimen les penalitzacions de compressió: un sol torn de reparació va eliminar completament la penalització de la quantització a 2 bits.
En el context empresarial, aquesta investigació té implicacions directes per a l'adopció de models de codi en entorns amb restriccions de memòria. Per exemple, en desplegaments de cloud AWS/Azure, on cada gigabyte de RAM costa diners, poder reduir el model a la meitat sense pèrdua funcional suposa un estalvi significatiu. Q2BSTUDIO ja treballa en arquitectures cloud que aprofiten aquestes tècniques per oferir assistència de codi intel·ligent als seus clients sense necessitat de maquinari especialitzat.
La poda d'experts no és una bala de plata. Requereix validació per model i per tasca. Però ben aplicada, permet democratitzar l'accés a models de codi d'última generació. La combinació de poda amb altres tècniques de compressió, com quantització o destil·lació, podria portar a models que càpiguen en una GPU de consum i mantinguin la qualitat dels grans sistemes MoE. A Q2BSTUDIO, on oferim serveis de BI/Power BI i intel·ligència artificial, estem explorant aquestes vies perquè els nostres clients puguin beneficiar-se d'assistents de codi sense inversions desorbitades. La investigació confirma el que veníem sospitant: de vegades, menys és més, sempre que s'elimini el correcte.
Finalment, l'estudi destaca un punt metodològic crucial: l'avaluació ha de ser el més propera possible a l'ús final. Els benchmarks de codi amb execució real proporcionen una mesura molt més fiable que la perplexitat o proves sintètiques. Per a una empresa que desenvolupa automatització de processos o aplicacions a mida, aquesta lliçó es tradueix en que la validació en producció és insubstituïble. No importa com de bé es comporti un model en un paper; el que compta és el seu rendiment en el codi real dels clients.
