La evaluación de sistemas de generación aumentada por recuperación (RAG) se centra tradicionalmente en verificar que las afirmaciones del modelo estén respaldadas por documentos recuperados, sin comprobar si dichos documentos corresponden realmente a la entidad consultada. Este vacío da lugar a un fenómeno que denominamos 'grounding engañoso' (deceptive grounding, DG): un fallo de atribución de entidad que pasa inadvertido para las métricas habituales de fidelidad, alucinación y citas, porque cada afirmación proviene de un documento real, pero referido a una entidad incorrecta. En el ámbito clínico, un sistema RAG puede responder con total aparente precisión sobre el fármaco X, citando estudios del fármaco Y, sin que ningún control automatizado lo detecte. Este problema no solo compromete la fiabilidad de las aplicaciones sanitarias, sino que abre una brecha crítica en la seguridad del paciente.
Investigaciones recientes, como el estudio controlado factorial sobre 13 modelos, revelan tasas de DG que oscilan entre el 8% y el 87% en condiciones adversariales máximas. Los modelos especializados en biomedicina alcanzaron hasta un 86,7%, lo que demuestra que la especialización de dominio no mitiga el fallo, sino que lo amplifica. La ablación controlada identifica el mecanismo subyacente: cuando se elimina la evidencia clínica específica de la entidad de los documentos recuperados, el fallo de atribución de entidad desaparece por completo, y todo el error se traslada a confabulación. Ambos modos de fallo responden al mismo desencadenante, pero toman caminos distintos. En una medición en producción sobre 740 pares fármaco-enfermedad, se encontró un 7,8% de DG global en un sistema RAG desplegado, que ascendió al 13,6% para fármacos recientemente aprobados. La verificación de atribución de entidad —comprobar que la evidencia citada se aplica a la entidad consultada— detecta el DG con una precisión del 97,0% y un recall del 98,7% (estándar oro humano ajustado por IPW), pero ningún marco existente lo implementa.
Desde una perspectiva técnica y empresarial, este hallazgo subraya la necesidad de incorporar capas de verificación adicionales en los sistemas RAG, especialmente en sectores críticos como la salud. En Q2BSTUDIO, entendemos que la inteligencia artificial aplicada a la medicina no solo debe ser precisa, sino también atribuible. Por eso, al desarrollar soluciones de IA para el sector clínico, integramos mecanismos de verificación de entidad que van más allá de la mera fidelidad textual. Nuestro enfoque combina la creación de aplicaciones a medida con arquitecturas robustas en la nube (AWS/Azure) para gestionar grandes volúmenes de documentación clínica, y empleamos técnicas de ciberseguridad para proteger datos sensibles de pacientes. Además, la monitorización continua mediante BI/Power BI permite detectar patrones de DG en tiempo real, mientras que el uso de agentes IA especializados puede realizar comprobaciones de atribución antes de entregar una respuesta final.
La lección es clara: la confianza en los sistemas RAG clínicos no puede basarse únicamente en métricas superficiales. El grounding engañoso es un fallo invisible que solo se combate con una verificación sistemática de la correspondencia entre entidad consultada y evidencia recuperada. Las empresas que lideran la transformación digital en salud, como Q2BSTUDIO, están llamadas a incorporar estas salvaguardas en sus arquitecturas de software, garantizando que cada respuesta asistencial no solo sea factual, sino que realmente pertenezca al paciente y al tratamiento correcto. El futuro de la IA en medicina depende de ello.
