L'entrenament de xarxes neuronals ha depès durant dècades de la retropropagació (backpropagation), un algoritme eficaç però biològicament qüestionable. Recentment, un equip d'investigació ha presentat un mètode alternatiu anomenat Error Diffusion (Difusió d'Errors) que permet entrenar xarxes profundes sense necessitat de transportar matrius de pesos transposades, un requisit que el cervell humà probablement no pot complir. Aquest enfocament no només elimina el problema del transport de pesos, sinó que a més respecta el principi de Dale, que estableix que una neurona allibera el mateix tipus de neurotransmissor (excitador o inhibidor) en totes les seves sinapsis.
L'arquitectura proposada divideix cada capa en dos fluxos paral·lels: un excitatori i un altre inhibitori. Totes les matrius de pesos es mantenen no negatives, i les connexions creuades entre fluxos incorporen signes negatius de forma estructural, no apresa. Això implica que cada capa requereix quatre submatrius, la qual cosa quadruplica el nombre de paràmetres respecte a una xarxa convencional. Tanmateix, aquesta complexitat addicional permet que l' aprenentatge sigui completament local: cada actualització de pes depèn únicament de l' activitat presinàptica, la derivada de l' activació postsinàptica i un únic signe d' error global.
Per escalar aquest mètode més enllà de la classificació binària, els investigadors van introduir un encaminament d'errors basat en mòdul. Cada neurona oculta s' assigna a un canal de sortida específic mitjançant la funció r( i) = i mod C, on C és la dimensió de sortida. Aquesta correspondència estructurada reemplaça les matrius de retroalimentació aleatòries utilitzades en altres mètodes com Direct Feedback Alignment (DFA). A més, es van implementar tres innovacions clau per a la classificació multiclasse: amples sigmoïdeus específics per capa per evitar la saturació prematura, centrat de l'error per classe en lots per corregir desequilibris, i una inicialització asimètrica que afavoreix les connexions excitatòries sobre les inhibitòries en una relació 3:1.
Els resultats obtinguts són notables: s'assoleix un 96.7% en MNIST i un 61.7% en CIFAR-10, mentre que la versió sense aquestes millores col·lapsa al 50.4% i 11.6% respectivament. Tot i que DFA assoleix puntuacions més altes (97.6% i 69.1%), ho fa violant el principi de Dale: empra aproximadament 2.84 milions de pesos negatius. El mètode proposat és el primer a entrenar xarxes convolucionals respectant completament aquesta restricció biològica. El preu de complir amb Dale es quantifica en una pèrdua d'entre 0.9 i 7.4 punts percentuals enfront de DFA.
Més enllà de la classificació, l'equip va estendre Error Diffusion a l'aprenentatge per reforç, integrant l'algoritme amb Proximal Policy Optimization (PPO). En entorns com HalfCheetah de Brax, ED-PPO supera significativament BP-PPO (5494 enfront de 3520) i empata amb DFA-PPO. A Craftax, però, DFA-PPO resulta ser el mètode més feble (19.8 enfront de 27.0 de BP-PPO), cosa que suggereix que la retroalimentació aleatòria que funciona per a classificació pot fallar en tasques d'aprenentatge obert.
Aquest avenç té implicacions profundes per al maquinari neuromòrfic i fotònic, on les magnituds sinàptiques es codifiquen físicament com a valors no negatius. A més, l'entrenament indueix una poda implícita: el 37.3% dels pesos cauen a terra (10⁻⁴) després de l'entrenament, i les connexions inhibitòries creuades es puguen fins a un 68.8%. Això obre la porta a la compressió de models sense cost addicional.
Des d'una perspectiva empresarial, la capacitat d'entrenar xarxes neuronals sense retropropagació i respectant principis biològics té aplicacions pràctiques en sectors com la robòtica, els sistemes embeguts i la intel·ligència artificial explicable. Empreses com Q2BSTUDIO, especialitzada en intel·ligència artificial per a empreses, poden aprofitar aquests avenços per desenvolupar aplicacions a mesura que requereixin eficiència energètica o desplegament en maquinari especialitzat. La combinació d'ia per a empreses amb agents IA que aprenen localment podria revolucionar sectors com la logística o la manufactura, on la latència i el consum són crítics.
La integració d' aquests mètodes amb serveis cloud aws i azure permetria entrenar models més lleugers i desplegar-los en entorns edge amb recursos limitats. A més, l'enfocament d'aprenentatge local és inherentment més robust enfront d'atacs adversarials, la qual cosa el converteix en una opció atractiva per a ciberseguretat i sistemes de detecció d'anomalies. La capacitat de podar pesos automàticament també s'alinea amb estratègies de compressió per a serveis intel·ligència de negoci que requereixen models ràpids i precisos, utilitzant eines com power bi per visualitzar mètriques de rendiment en temps real.
El desenvolupament de programari a mida basat en Error Diffusion podria implementar-se en plataformes d'automatització industrial, on els robots necessiten aprendre tasques sense dependre d'una connexió constant al núvol. Q2BSTUDIO ofereix experiència en la creació de solucions completes que van des del disseny del model fins a la seva integració en infraestructures cloud, garantint escalabilitat i compliment normatiu.
En resum, Error Diffusion representa un pas significatiu cap a xarxes neuronals més plausibles biològicament i eficients computacionalment. Tot i que encara està lluny del rendiment de la retropropagació convencional en tasques complexes, la seva combinació d'aprenentatge local, respecte pel principi de Dale i extensió a l'aprenentatge per reforç el converteixen en un camp de recerca prometedor. Per a les empreses que busquen innovar en intel·ligència artificial, explorar aquestes alternatives és clau per diferenciar-se i construir sistemes més robustos i sostenibles.
