Analicé logs de firewall y encontré IA no autorizada con datos a China

La proliferación de herramientas de inteligencia artificial en el entorno empresarial ha dado lugar a un fenómeno silencioso pero peligroso: la IA no autorizada o Shadow AI. Cuando un empleado utiliza un chatbot de IA sin el conocimiento del departamento de TI, los datos corporativos pueden viajar hacia servidores en el extranjero, incluso hacia jurisdicciones con regulaciones de privacidad muy distintas a las europeas. Un análisis reciente de logs de firewall reveló que ocho servicios de IA no aprobados operaban en una red de tamaño medio, entre ellos DeepSeek, con tráfico destinado a China. Ninguna alerta de seguridad saltó porque las conexiones HTTPS parecían legítimas. Este vacío entre la política de IA declarada y la capacidad real de enumerar qué herramientas se ejecutan constituye el núcleo del problema de la Shadow AI.

Desde una perspectiva técnica, los registros de egreso (firewall, proxy, DNS) contienen información suficiente para construir un inventario de servicios de IA en uso. No es necesario interceptar el tráfico TLS: basta con examinar los dominios de destino. Sin embargo, la clasificación ingenua mediante búsquedas de subcadenas falla con frecuencia. La solución consiste en resolver cada hostname hasta su dominio registrable (eTLD+1) usando listas públicas de sufijos. De este modo, 'chat.openai.com' y 'api.openai.com' colapsan correctamente en 'openai.com', mientras que 'openai.com.phishy.ru' queda correctamente excluido. Esta técnica, aunque sencilla, marca la diferencia entre un informe que un auditor acepta y uno que desestima por ruido.

La honestidad en la elaboración de informes es igualmente crítica. Un escáner de Shadow AI debe limitar sus afirmaciones a lo observado directamente: si detecta un host de consumo de ChatGPT, debe reportar la postura de consumo, no inventar una inexistente postura empresarial. Afirmar cumplimiento normativo sin evidencia concreta es contraproducente y erosiona la confianza. Un enfoque conservador —reportar 'desconocido' antes que 'cumplidor'— es preferible para auditorías reales. En este contexto, la ciberseguridad proactiva requiere herramientas que no solo detecten, sino que también contextualicen el riesgo sin exagerar.

El desafío no termina en los logs de red. Existen puntos ciegos importantes: los modelos locales ejecutados en portátiles (Ollama, por ejemplo) no generan tráfico de egreso, y el DNS sobre HTTPS (DoH) puede opacar las consultas. Ninguna solución ofrece cobertura total; cualquier proveedor que prometa el 100% de descubrimiento está ocultando limitaciones. Lo sensato es combinar capas: monitorización de egreso para la nube, análisis de tráfico cifrado cuando sea factible, y políticas de gobernanza que incluyan formación y concienciación.

En nuestra experiencia en inteligencia artificial para empresas, la clave está en la instrumentación y en la capacidad de responder a preguntas concretas: ¿qué IA está corriendo, quién la autorizó y hacia dónde viajan los datos? Para resolverlo, muchas organizaciones recurren a aplicaciones a medida que integran el análisis de logs con plataformas de servicios cloud aws y azure, permitiendo escalar el procesamiento sin exponer datos sensibles. Además, los agentes IA pueden automatizar la correlación de eventos, mientras que soluciones de servicios inteligencia de negocio como Power BI visualizan los patrones de uso no autorizado. Desde Q2BSTUDIO ofrecemos servicios de ciberseguridad y pentesting que incluyen evaluaciones específicas de Shadow AI, ayudando a las empresas a cerrar la brecha entre la política y la realidad operativa.

La pregunta que todo responsable de seguridad debería hacerse es directa: si alguien le pidiera un inventario completo de las herramientas de IA que tocan su red en este momento, ¿cuánto tardaría en producirlo? Con las técnicas adecuadas y el apoyo de un socio tecnológico que entienda software a medida y gobernanza de IA, esa respuesta puede reducirse de semanas a horas. La Shadow AI no se combate con más bloqueos, sino con enumeración defendible y transparencia.