Los agentes de IA están generando silenciosamente fallos de ingeniería del caos que las empresas aún no rastrean

La adopción de agentes autónomos basados en inteligencia artificial está transformando la operación de infraestructuras críticas, pero introduce una categoría de incidentes que escapa a los sistemas tradicionales de seguimiento. Cuando un agente IA actúa sobre un sistema en producción, lo hace con un contexto limitado: su decisión puede ser técnicamente correcta según los datos que percibe, pero ignora el estado global de la infraestructura. El resultado es una cascada de fallos que no encaja en las plantillas de postmortem existentes, porque la falla no es del agente ni de la infraestructura, sino del vacío entre ambos. En este escenario, la ingeniería del caos, que tradicionalmente se aplica mediante experimentos controlados por humanos, queda fuera de juego. Los agentes IA se convierten en inyectores de caos involuntarios, y las empresas carecen de mecanismos para registrar, medir o mitigar ese riesgo.

La raíz del problema es que la capacidad de absorción del sistema —esa reserva dinámica de estrés que un entorno puede soportar antes de violar sus compromisos de nivel de servicio— no se trata como un recurso cuantificable. En las organizaciones maduras, un ingeniero de confiabilidad revisa dashboards, evalúa la tasa de consumo del error budget y verifica la estabilidad de las dependencias antes de ejecutar un experimento de caos. En cambio, un agente autónomo no realiza ese juicio: ve una anomalía, ejecuta una acción (reiniciar un servicio, reenrutar tráfico, escalar recursos) y, sin saberlo, añade estrés a un sistema que ya podría estar bajo presión por otros frentes. El resultado es una explosión de radio que nadie modeló. Por eso resulta fundamental que las empresas adopten un enfoque donde cada acción de un agente se registre como un experimento de caos, con los mismos mecanismos de control que se aplicarían a una prueba humana. Esto implica conectar los sistemas de observabilidad con un presupuesto de resiliencia que combine la tasa de consumo del error budget, las tendencias de latencia, la saturación de dependencias y señales de aplicación como tasas de finalización de sesiones. Sin ese marco, el agente opera en un vacío contable, y el riesgo se acumula sin ser detectado.

Para abordar esta brecha, muchas empresas están recurriendo a soluciones de ia para empresas que integran modelos de lenguaje en la generación de hipótesis de caos. Sin embargo, la utilidad de estos modelos está limitada por la obsolescencia de los grafos de dependencia: si el grafo no refleja cambios recientes en la topología del sistema, el modelo producirá hipótesis con supuestos de radio de explosión incorrectos. La confianza en estos sistemas debe basarse en datos validados por la realidad de producción, como los postmortems de incidentes anteriores, no en modelos que no pueden verificar la vigencia de sus entradas. Aquí es donde cobra sentido contar con servicios cloud aws y azure que permitan construir capas de gobernanza donde las decisiones ambiguas sean escaladas a un humano, no ejecutadas automáticamente. Un agente que actúa solo cuando el presupuesto de resiliencia está por encima de un umbral definido, y que delega al equipo de operaciones cuando las señales son confusas, no es una limitación técnica, sino un requisito de ingeniería para operar de forma confiable.

En Q2BSTUDIO trabajamos con organizaciones que están adoptando agentes IA en producción, ayudándoles a diseñar arquitecturas que traten cada acción autónoma como un experimento de caos. Nuestra experiencia abarca desde el desarrollo de aplicaciones a medida que integran sistemas de monitoreo con modelos de presupuesto de resiliencia, hasta la implementación de software a medida para automatizar la contabilidad de consumo de capacidad de absorción. También colaboramos en proyectos de ciberseguridad donde los agentes deben operar bajo estrictos controles de radio de explosión, y en soluciones de servicios inteligencia de negocio que utilizan power bi para visualizar en tiempo real el estado del presupuesto de resiliencia compartido entre equipos. El objetivo es que las empresas no esperen a que un agente genere una cascada no rastreada; en su lugar, que construyan desde el inicio un marco de gobernanza donde la ingeniería del caos y la inteligencia artificial conversen de forma nativa. Cada vez que un agente reinicia un servicio o modifica una configuración, esa acción debe alimentar el mismo modelo de señales que gobierna los experimentos humanos. Solo así se podrá mantener el control sobre sistemas cada vez más autónomos, sin comprometer la estabilidad de la infraestructura crítica.