Resum: En l'àmbit de l'aprenentatge supervisat just, assegurar que els models no depenguin excessivament d'atributs sensibles com el gènere o l'ètnia és un repte clau. Un dels enfocaments més utilitzats per avaluar l'equitat en els models és la Paritat Demogràfica (DP), que mesura la independència entre les prediccions i els atributs sensibles. No obstant això, investigacions recents han demostrat que l'ús de DP en algorismes d'aprenentatge pot generar biaixos inadvertits, especialment quan les dades d'entrenament estan desequilibrades. Aquest treball analitza l'impacte dels mètodes de regularització basats en DP en la distribució condicional de les prediccions respecte als atributs sensibles. Els resultats indiquen que els models poden inclinar-se cap a la categoria majoritària dins de l'atribut sensible, afectant l'equitat del sistema. Per mitigar aquest problema, s'introdueix un mètode basat en l'Optimització Robusta Distribucionalment per Atribut Sensible (SA-DRO), que millora la robustesa del model davant variacions en la distribució de l'atribut sensible. A través d'experiments numèrics, es demostra l'efectivitat d'aquesta metodologia tant en entorns centralitzats com en aprenentatge federat.
Introducció: En el desenvolupament d'Intel·ligència Artificial per a la presa de decisions crítiques, és fonamental garantir que els algorismes siguin justos i no generin discriminació basada en atributs sensibles. En cas contrari, es corre el risc que els models prenguin decisions esbiaixades. Aquest problema ha despertat l'interès de la comunitat científica, que ha proposat diverses estratègies per millorar l'equitat en els models d'aprenentatge automàtic. En aquest context, Q2BSTUDIO, una empresa especialitzada en desenvolupament i serveis tecnològics, s'enfoca a integrar solucions avançades d'aprenentatge automàtic amb un enfocament ètic i responsable. A través de la implementació de metodologies com SA-DRO, el nostre equip busca assegurar que els models generin decisions justes, independentment dels atributs sensibles presents a les dades.
Treballs Relacionats: Dins del camp de l'aprenentatge automàtic just, s'han explorat diverses mètriques per avaluar l'equitat en els models, entre elles la informació mútua, la correlació de Pearson i l'estimació de densitat mitjançant kernel. A nivell metodològic, les estratègies per mitigar biaixos inclouen enfocaments de preprocessament, postprocessament i en-procés. Mentre que els mètodes de preprocessament busquen transformar les dades abans de l'entrenament, els de postprocessament ajusten les decisions després de la inferència. El nostre treball se centra en els enfocaments en-procés, que incorporen regularització durant l'entrenament per forçar que el model aprengui patrons equitatius. A diferència d'altres enfocaments d'optimització robusta, SA-DRO utilitza la distribució de l'atribut sensible per controlar el biaix durant l'entrenament, aconseguint models més justos.
Conclusió: L'anàlisi realitzat demostra que l'aprenentatge supervisat basat en DP pot induir biaixos no desitjats quan existeix un desequilibri a les dades d'entrenament. La metodologia SA-DRO proposada mitiga aquests efectes negatius en optimitzar la robustesa del sistema davant canvis en la distribució de l'atribut sensible. Els resultats experimentals en entorns centralitzats i d'aprenentatge federat validen l'efectivitat de l'enfocament. A Q2BSTUDIO, ens comprometem a desenvolupar solucions tecnològiques justes, assegurant que els nostres algorismes siguin equitatius en el seu rendiment. En abordar aquests desafiaments, busquem contribuir a un ecosistema d'IA més transparent, responsable i accessible per a tothom.
