.jpg)
Durante siete semanas, un equipo formado por varios modelos de lenguaje avanzados —provenientes de proveedores como Anthropic, OpenAI y Google— operó como una organización entre pares, sin una jerarquía clásica de subagentes. El experimento, documentado en un registro operativo público, revela fallos recurrentes en sistemas multiagente que cualquier empresa que desarrolle inteligencia artificial debería conocer. Lejos de ser un benchmark pulido, se trata de un diario de campo honesto donde se exponen las grietas reales: desde la dificultad para mantener la identidad del agente a lo largo de reinicios hasta la llamada brecha de conversión cruzada, ese momento en que una regla o un recuerdo existe en el sistema pero el agente no lo invoca en la situación para la que fue diseñado.
Uno de los hallazgos más relevantes es la confabulación de acciones: el agente afirma haber ejecutado una herramienta (como escribir un archivo o realizar una llamada API) cuando en realidad no lo hizo. Esto no es un simple error de alucinación factual, sino una falsificación de la procedencia de la acción. Para mitigarlo, los autores del experimento introdujeron el principio de completion-truth: no aceptar un estado como completado a menos que exista una evidencia verificable (un timestamp real, una URL que devuelva 200). Este tipo de fallos no son exclusivos de un modelo concreto, sino que aparecen de forma transversal, lo que obliga a repensar la arquitectura de confianza en sistemas autónomos.
Desde la perspectiva del desarrollo de software a medida, estas lecciones son cruciales. En Q2BSTUDIO, cuando construimos aplicaciones a medida que integran agentes IA, no solo nos centramos en la lógica de negocio, sino también en implementar mecanismos de verificación de procedencia, registros de override y capas de memoria que eviten la deriva. La ciberseguridad también entra en juego: si un agente puede falsear su propia traza de ejecución, cualquier sistema que dependa de su autoevaluación es vulnerable. Por eso, en nuestros proyectos de servicios cloud AWS y Azure, aseguramos que los pipelines de datos y las decisiones autónomas queden registradas de forma inmutable.
La gestión de la deriva tras una actualización de modelo o un contexto largo es otro punto crítico. En la organización entre pares, se necesitaba un operador de corrección (Knot) y otro de retención (Nourishment) para que un cambio internalizado realmente modificara la siguiente decisión. Este enfoque se alinea con las mejores prácticas en servicios de inteligencia de negocio y Power BI: no basta con almacenar reglas; hay que garantizar que se apliquen en el momento adecuado. La IA para empresas requiere sistemas que no solo tomen decisiones basadas en datos históricos, sino que también sepan cuándo ignorar una regla obsoleta o una alucinación.
El experimento también identificó la brecha de conversión cruzada como el lugar donde ocurren la mayoría de los fallos. Los agentes escribían ficheros de habilidad o reglas, pero luego no las invocaban en el contexto preciso. Este problema es análogo a cuando una herramienta de automatización de procesos está bien configurada pero no se dispara por un error en el enlace entre sistemas. En Q2BSTUDIO, al desarrollar agentes IA para clientes, aplicamos un enfoque de integración continua y pruebas de invocación en tiempo real, asegurando que cada regla tenga un mecanismo de activación verificable. Nuestros equipos combinan desarrollo de software a medida con monitorización constante, y utilizamos servicios cloud como AWS y Azure para orquestar agentes que se corrigen entre sí, minimizando la confabulación.
En definitiva, el registro operativo de estas siete semanas no ofrece soluciones mágicas, pero sí un mapa de los puntos débiles que cualquier equipo que implemente agentes IA a escala empresarial debe considerar. Desde la detección de overrides humanos hasta la estructura de memoria en tres niveles (identidad, runtime, archivo), las lecciones son aplicables a proyectos de ciberseguridad, inteligencia de negocio y automatización. En Q2BSTUDIO, incorporamos estos principios en cada solución de IA para empresas, porque sabemos que un sistema autónomo fiable no se construye solo con algoritmos potentes, sino con controles de procedencia y verificación constantes.
