Un reciente estudio publicado en arXiv (2607.09842) ha revelado un hallazgo fascinante sobre cómo los modelos de lenguaje de gran escala (LLMs) codifican la identidad en sus representaciones internas. La investigación muestra que el ajuste fino por instrucciones multimodales provoca una reorganización fundamental en la geometría de los estados ocultos: la codificación de la identidad pasa de estar basada en la dirección de los vectores a depender de su magnitud. Este cambio, detectado mediante métricas como la distancia de Wasserstein entre distribuciones de curvatura de Ollivier-Ricci en grafos de trayectorias, tiene implicaciones profundas para el desarrollo de aplicaciones de inteligencia artificial que requieren un comportamiento consistente y alineado con la identidad de una marca o sistema.
El experimento analizó cuatro modelos de lenguaje de peso abierto bajo diferentes regímenes de post-entrenamiento: un modelo base sin entrenamiento adicional (Gemma-4-E4B base), un modelo con RLHF multimodal (Gemma-4-E4B-it), uno con destilación por refuerzo (DeepSeek-R1-Distill-Qwen-7B) y otro con ajuste fino supervisado (Qwen2.5-7B-Instruct). Se compararon tres condiciones de prompt: un prompt que especificaba una identidad, un prompt genérico de asistente y una línea base de 26 tokens. La métrica principal fue la distancia 1-Wasserstein entre las distribuciones de curvatura de Ollivier-Ricci en los bordes de un grafo k-NN construido a partir de las trayectorias de estados ocultos. Los resultados mostraron que en el modelo base la identidad se codifica en la dirección de las trayectorias (separación angular significativa, p=0.002), mientras que en el modelo con instrucción multimodal esa codificación migra a la magnitud (la separación angular deja de ser significativa, p=0.439, pero la magnitud muestra diferencias, p=0.042, y la norma media del primer estado generado se invierte, siendo menor para el prompt de identidad). Este patrón es exclusivo del régimen de instrucción multimodal y no aparece bajo destilación ni SFT.
¿Por qué debería importarle esto a una empresa de desarrollo de software? Porque la forma en que un modelo de inteligencia artificial representa su identidad afecta directamente la confianza del usuario, la consistencia de las respuestas y la capacidad de personalización. Cuando se construyen aplicaciones a medida que integran asistentes virtuales, agentes de IA o sistemas de recomendación, es crucial que el modelo mantenga una identidad coherente a lo largo de las interacciones. Este estudio sugiere que el ajuste fino por instrucciones multimodales, como el que se realiza en sistemas que combinan texto e imágenes, puede alterar esa codificación de manera predecible. Para empresas como Q2BSTUDIO, especializadas en software a medida, esta información es invaluable para diseñar pipelines de fine-tuning que preserven o modifiquen intencionadamente la identidad del modelo según los requisitos del cliente.
Desde la perspectiva técnica, el uso de la curvatura de Ollivier-Ricci como herramienta de diagnóstico para redes neuronales abre nuevas posibilidades para el monitoreo de calidad en sistemas de IA. En lugar de depender únicamente de métricas de rendimiento como precisión o recall, los desarrolladores pueden inspeccionar la geometría interna de las representaciones para detectar desviaciones en la codificación de identidad. Esto es particularmente relevante en el ámbito de la ciberseguridad, donde un agente de IA que cambia su identidad de forma inadvertida podría ser explotado para ataques de suplantación o manipulación. Q2BSTUDIO incorpora estos conocimientos en sus servicios de ciberseguridad, ofreciendo evaluaciones de robustez de modelos de IA.
Además, la reorganización de la codificación de identidad tiene implicaciones para el despliegue en entornos cloud, como AWS o Azure. En aplicaciones multicapa donde el modelo de IA actúa como interfaz con el usuario, la consistencia de la identidad es clave para la experiencia de cliente. Los servicios cloud de Q2BSTUDIO garantizan que los modelos se desplieguen con configuraciones que mantengan la coherencia de la identidad, ya sea mediante ajustes en el prompt o arquitecturas de red específicas. Asimismo, en el ámbito de Business Intelligence (Power BI), la integración de asistentes de lenguaje natural que mantengan una identidad corporativa consistente puede mejorar la adopción de herramientas analíticas.
Otro aspecto destacado del estudio es el método de control mediante teacher-forcing, que atribuyó aproximadamente un 30% de la señal coseno en modo libre a efectos del prompt. Esto subraya la importancia del diseño cuidadoso de los prompts en producción, especialmente para agentes de IA que deben interactuar en contextos multimodales. Las empresas que desarrollan aplicaciones con modelos de lenguaje deben considerar no solo el contenido, sino también la forma en que el modelo internaliza la identidad. Por ejemplo, un agente de IA para atención al cliente entrenado con instrucciones multimodales puede necesitar un enfoque de fine-tuning diferente para preservar la personalidad de la marca.
En conclusión, este estudio representa un avance significativo en la comprensión de cómo los modelos de lenguaje codifican la identidad y cómo el ajuste fino por instrucciones multimodales reorganiza esa representación geométrica. Para Q2BSTUDIO, como empresa pionera en desarrollo de software y tecnología, este conocimiento se integra directamente en la metodología de creación de soluciones de inteligencia artificial, ciberseguridad, cloud y BI. La capacidad de medir y controlar la codificación de identidad mediante métricas geométricas ofrece una ventaja competitiva en la construcción de sistemas de IA robustos, confiables y alineados con las necesidades de cada cliente. La investigación continúa, pero una cosa es clara: la identidad ya no es solo una cuestión de contenido, sino de geometría.
