El recent cas judicial contra Meta per acomiadaments massius presumptament executats mitjançant eines d'intel·ligència artificial ha obert un debat crucial sobre la responsabilitat algorítmica en l'entorn laboral. La demanda, presentada per vint-i-sis exemples, sosté que els sistemes d'IA de la companyia van seleccionar de manera desproporcionada treballadors que estaven gaudint de permisos protegits —baixes mèdiques, parentals o per dol— per ser inclosos en els retalls de plantilla de 2024. Aquest litigi no és un simple conflicte sobre indemnitzacions; representa la primera gran prova legal sobre si les empreses poden emparar-se en la suposada objectivitat d'un algorisme per prendre decisions que afecten la vida de les persones.
El moll de l'acusació rau en el funcionament intern d'aquests models predictius. Segons la documentació del cas, l'algorisme de Meta utilitzava mètriques de rendiment extretes de les seves pròpies eines internes. El problema sorgeix quan un empleat està de baixa: en no generar-se noves dades de productivitat durant aquell període, el sistema interpretava aquesta absència d'informació com un baix acompliment. Així, l'algorisme etiquetava aquestes persones com a prescindibles sense considerar les circumstàncies legals que protegeixen la seva absència. No es tracta d'un error tècnic menor, sinó d'un biaix estructural incorporat en la lògica del model. Els enginyers que van dissenyar aquestes solucions probablement no tenien intenció de discriminar, però van construir una eina que va aprendre a tractar l'absència com a fracàs, i ningú va revisar aquest comportament abans de posar-la en producció.
Aquest cas transcendeix Meta. La majoria de les grans corporacions utilitzen avui sistemes algorítmics per a processos de selecció, avaluació del rendiment, promocions i, per descomptat, acomiadaments. Amazon ja va haver de descartar una eina de contractació que discriminava les dones; LinkedIn ha estat assenyalada per biaixos en la distribució d'oportunitats laborals. El patró és recurrent: els models d'IA absorbeixen els prejudicis presents en les seves dades d'entrenament i els amplifiquen a escala. La diferència amb el litigi de Meta és que aquí el biaix no és subtil ni apareix en una fase primerenca del cicle laboral, sinó que es manifesta en la decisió final que més impacte té sobre les persones: la terminació de l'ocupació. Això situa el sistema judicial davant un desafiament majúscul, ja que ha d'avaluar si una companyia necessita demostrar intenció discriminatòria o si n'hi ha prou amb haver creat un sistema que genera resultats discriminatoris. El precedent que s'estableixi modelarà durant dècades la forma en què les tecnològiques aborden la intel·ligència artificial aplicada a recursos humans.
Des d'una perspectiva tècnica, el problema no és nou, però sí cada cop més urgent. Els models d'aprenentatge automàtic necessiten dades netes, representatives i lliures de biaixos per funcionar de manera ètica. Quan una empresa desplega un sistema d'avaluació del rendiment basat en IA sense realitzar proves d'impacte dispars —és a dir, sense verificar si l'algorisme perjudica sistemàticament certs col·lectius— està assumint un risc legal enorme. La demanda contra Meta inclou un al·legat que la companyia no només no va auditar la seva eina, sinó que a més va ignorar les advertències internes sobre possibles biaixos. Aquest fet subratlla la necessitat d'incorporar governança algorítmica des de les primeres fases del desenvolupament.
Per a les empreses que busquen adoptar tecnologies avançades de forma responsable, comptar amb un soci tecnològic que entengui tant el potencial com els riscos de la IA és essencial. A Q2BSTUDIO, oferim solucions d'intel·ligència artificial a mida que prioritzen la transparència i el control humà. El nostre equip d'enginyers treballa colze a colze amb els clients per dissenyar models que no només compleixin objectius de negoci, sinó que respectin els marcs legals i ètics vigents. Perquè un algorisme no és mai neutral: reflecteix les decisions de qui el construeix i les dades amb què s'alimenta.
Més enllà de la capa d'IA, la infraestructura que suporta aquests sistemes també juga un paper crític. Una empresa que maneja dades sensibles d'empleats ha de garantir la seva seguretat mitjançant mesures de ciberseguretat robustes, com les que implementem a Q2BSTUDIO. La protecció de la informació personal davant accessos no autoritzats és un requisit legal i una obligació moral quan es tracta de dades vinculades a la relació laboral. A més, la capacitat de processar grans volums de dades requereix de plataformes al núvol fiables i escalables. Els nostres serveis en cloud AWS i Azure permeten a les organitzacions desplegar els seus sistemes d'IA amb la flexibilitat i el rendiment necessaris, alhora que mantenim un control estricte sobre els accessos i les polítiques d'auditoria.
Un altre aspecte rellevant és el mesurament del rendiment i la detecció primerenca de biaixos. Les eines de Business Intelligence, com Power BI, poden integrar-se amb els sistemes de RRHH per generar quadres de comandament que monitoritzin de forma contínua els indicadors d'equitat. A Q2BSTUDIO desenvolupem solucions de BI i Power BI que permeten a les empreses visualitzar l'impacte dels seus algorismes i prendre decisions basades en dades, no en suposicions. També treballem amb agents d'IA capaços d'automatitzar tasques repetitives sense perdre de vista la supervisió humana, un equilibri que resulta fonamental per evitar les trampes de l'automatització cega.
El cas de Meta no és un incident aïllat. És un toc d'atenció per a qualsevol organització que utilitzi o planegi utilitzar intel·ligència artificial en la gestió de persones. La tecnologia no pot ser un vel que oculti la responsabilitat. Els directius, els equips de producte i els desenvolupadors han d'assumir un rol actiu en la revisió ètica dels seus sistemes. Preguntes com 'Què passa quan un empleat està de baixa?' o 'Com tractem les dades que falten?' han de ser part de les proves de concepte abans de llançar un model a producció. La demanda contra Meta demostra que ignorar aquelles preguntes pot costar molt més que una multa: pot destruir la confiança dels treballadors i la reputació de la companyia.
Des de la perspectiva de Q2BSTUDIO, creiem que el futur de la tecnologia passa per una col·laboració estreta entre experts en negoci, juristes i desenvolupadors. Per això oferim serveis de consultoria i desenvolupament d'aplicacions a mida que integren principis d'equitat algorítmica des del disseny. No es tracta només de complir amb la llei, sinó de construir sistemes que les persones puguin entendre i en què puguin confiar. La intel·ligència artificial té un enorme potencial per millorar l'eficiència empresarial, però només si es desplega amb les salvaguardes adequades. El litigi contra Meta marca un abans i un després: l'era de la innocència algorítmica ha acabat. Ara toca demostrar que la tecnologia pot ser justa, i per això necessitem equips humans preparats, processos transparents i eines que permetin auditar cada decisió.
