La equidad algorítmica se ha convertido en un pilar estratégico en el desarrollo de inteligencia artificial. Las organizaciones que despliegan modelos automatizados deben asegurarse de que sus decisiones no perpetúan sesgos históricos. Dos nociones son fundamentales en este debate: la equidad contrafactual (CF) y la equidad grupal (GF). La primera analiza si la predicción cambiaría al modificar un atributo sensible, como el género o la etnia, manteniendo intactas el resto de variables. La segunda exige que los resultados sean comparables entre grupos protegidos. Su relación no siempre es evidente, especialmente cuando trabajamos con datos complejos como imágenes.
En entornos tabulares, muchos estudios observaron que los modelos contrafactualmente justos también solían cumplir la equidad grupal. Esa aparente equivalencia simplificaba las auditorías, pues bastaba con comprobar una sola métrica. Sin embargo, esa conclusión no se traslada directamente a la clasificación de imágenes. La diferencia clave está en la existencia de atributos latentes no etiquetados que están correlacionados con el atributo sensible sin ser causados por él. Por ejemplo, en una fotografía, la presencia de ciertos rasgos puede estar fuertemente asociada a la edad o al género, aunque no exista una relación causal directa. Esta variable latente, llamémosla G, funciona como un atajo que el modelo puede explotar.
Cuando un clasificador utiliza G como proxy, puede aprobar una evaluación contrafactual y, al mismo tiempo, fallar en equidad grupal. Desde la perspectiva contrafactual, el modelo no emplea explícitamente el atributo sensible, por lo que una intervención sobre dicho atributo no alteraría la predicción. Pero desde la perspectiva grupal, el uso de G provoca que los resultados no sean equivalentes entre colectivos, porque la distribución de G difiere entre ellos. Este desajuste explica por qué en dominios visuales la implicación CF->GF deja de cumplirse. No se trata de una anomalía estadística, sino de un problema estructural ligado a cómo aprenden los modelos.
Esta distinción tiene implicaciones directas para las empresas. Un sistema de IA utilizado en selección de personal, acceso a crédito o diagnóstico sanitario debe ser justo en todos los sentidos relevantes. Confiar únicamente en la equidad contrafactual puede generar una falsa sensación de seguridad. Por eso, en el desarrollo de aplicaciones a medida con inteligencia artificial, es imprescindible incluir un conjunto amplio de métricas de equidad, así como pruebas con datos reales y diversos. Las organizaciones que ignoran esta complejidad asumen un riesgo reputacional y legal significativo.
Evaluar la equidad contrafactual en imágenes es especialmente difícil porque no solemos disponer de la misma persona con diferentes atributos sensibles. Para resolverlo, los equipos de investigación están utilizando editores de imágenes basados en IA para generar contrafactuales realistas. Esas imágenes deben ser validadas por anotadores humanos para garantizar su plausibilidad. Combinando estos datos sintéticos con los conjuntos clásicos de equidad grupal, se obtienen entornos de evaluación dual. Esta metodología permite medir ambas nociones sobre el mismo clasificador y observar sus discrepancias.
Además de generar contrafactuales, es fundamental documentar el proceso de edición y los criterios de anotación. Sin esa documentación, los resultados no son reproducibles y cualquier auditoría pierde valor. Una buena práctica es almacenar las imágenes originales, las editadas y las etiquetas humanas en un repositorio versionado. De esta manera, los equipos de datos pueden revisar la calidad en cualquier momento y reutilizar el mismo corpus para diferentes experimentos. Esta disciplina también facilita la trazabilidad cuando se utiliza cloud para escalar el proceso.
La elección de la métrica principal no es neutral. Depende del sector, del marco regulatorio y del riesgo asociado a cada decisión. En contextos de contratación, la igualdad de oportunidades puede ser más relevante que la paridad demográfica. En servicios financieros, la paridad predictiva suele ser un punto de partida. En el ámbito sanitario, la equidad contrafactual aporta información valiosa sobre la respuesta individual al tratamiento. Por tanto, cualquier solución de IA debe permitir configurar y monitorizar diferentes indicadores de equidad sin fricciones. Esta flexibilidad es una característica que las empresas deben exigir a sus proveedores tecnológicos.
Un sistema de evaluación robusto debería combinar varias métricas: paridad demográfica, igualdad de oportunidades, paridad predictiva y equidad contrafactual. Ninguna de ellas es suficiente por sí sola. Por ejemplo, un modelo puede cumplir la paridad demográfica pero cometer errores muy distintos entre grupos. En el caso de los datos visuales, además, hay que controlar la calidad de las imágenes contrafactuales; si la edición introduce artefactos irreales, los resultados serán engañosos. La supervisión humana y una buena documentación de los datos son inseparables de una evaluación justa.
Para mitigar el problema, una alternativa práctica es la destilación de conocimiento contrafactual, conocida como CKD. Consiste en entrenar un modelo maestro a partir de pares de imágenes contrafactuales y después transferir su conocimiento a un modelo estudiante. El objetivo es reducir la dependencia de la variable latente G, sin perder capacidad predictiva. Los experimentos recientes indican que, cuando un modelo reduce esa dependencia, la equidad contrafactual y la equidad grupal tienden a converger. CKD no es una solución universal, pero demuestra que el diseño del entrenamiento puede corregir desajustes entre nociones de equidad.
En Q2BSTUDIO, empresa de desarrollo de software y tecnología, tratamos la equidad como un requisito de ingeniería. Ayudamos a las organizaciones a integrar IA responsable en sus procesos mediante servicios como inteligencia artificial y cloud AWS o Azure. Nuestras soluciones abarcan también aplicaciones a medida, agentes IA, cuadros de mando con BI/Power BI y ciberseguridad. Creemos que la equidad debe estar presente en todas las fases: desde la definición del problema hasta el monitoreo posterior al despliegue. La tecnología justa no es un extra, sino una condición de calidad.
La infraestructura también es un factor determinante. Contar con plataformas cloud bien configuradas permite ejecutar experimentos contrafactuales a gran escala, almacenar versiones de los datos y mantener trazabilidad en las auditorías. Los paneles de BI/Power BI resultan útiles para visualizar las métricas de equidad a lo largo del tiempo y detectar derivas. La ciberseguridad, por su parte, garantiza que la información sensible de los grupos protegidos no sea objeto de usos indebidos. En definitiva, la equidad requiere de un ecosistema técnico completo, no solo de una función de pérdida.
La pregunta inicial no tiene una respuesta universal. Si los clasificadores contrafactualmente justos cumplen la equidad grupal depende del dominio, de la calidad de los datos y de la arquitectura del modelo. La buena noticia es que podemos diseñar soluciones que alineen ambas nociones, siempre que evaluemos con métricas complementarias y reduzcamos la dependencia de atributos latentes. En Q2BSTUDIO acompañamos a las empresas en este camino, combinando conocimiento técnico, visión de negocio y responsabilidad ética. Porque la equidad no es un concepto abstracto: se demuestra con datos, procesos y resultados medibles.
