.jpg)
Modelos de PyTorch son ejecutables: Por qué construí un escáner para detener bombas Pickle
Si trabajas en DevOps o en seguridad es habitual vigilar dependencias en requirements.txt con herramientas como Snyk o Dependabot, pero a menudo se ignoran los modelos de IA que llegan como archivos .pt desde repositorios públicos. Estos archivos no son datos estáticos, son ejecutables binarios que pueden contener cargas útiles maliciosas.
Un archivo .pt de PyTorch es en realidad un contenedor tipo Zip que suele incluir pesos y la serialización del objeto con pickle. El módulo pickle de Python permite reconstruir objetos arbitrarios al deserializar y por ello puede ejecutar código remoto o local si el flujo contiene instrucciones peligrosas. Al llamar a torch.load sobre un archivo comprometido se activa el deserializador y se pueden ejecutar llamadas como os.system o subprocess sin sandbox ni advertencia.
Por qué las herramientas SCA tradicionales fallan: estas soluciones buscan versiones de paquetes y CVE en ficheros de dependencias. Un modelo personalizado no es un paquete versionado sino un blob binario. Una bomba pickle no es un CVE registrado sino un exploit escondido dentro del propio archivo. El resultado es un informe de seguridad limpio mientras un payload de 5 GB con RCE permanece inadvertido en un contenedor de producción.
Para cubrir esa laguna diseñé aisbom, una herramienta de inspección profunda de artefactos AI que realiza Deep Binary Introspection. aisbom desempaqueta artefactos PyTorch y SafeTensors sin cargar pesos pesados en memoria, analiza el flujo de opcodes de pickle con pickletools y detecta patrones peligrosos como uso de os.system, subprocess, eval o sockets que podrían indicar ejecución remota. Puedes probarla instalando pip install aisbom-cli y ejecutando aisbom scan sobre tu carpeta de modelos para obtener una evaluación de riesgo antes de desplegar en producción.
El futuro pasa por formatos más seguros como SafeTensors, que separan metadatos en cabeceras y reducen la superficie de ataque, pero mientras exista un gran volumen de .pt heredados necesitamos controles automáticos. En Q2BSTUDIO entendemos esa necesidad y ofrecemos soluciones completas para proteger la cadena de suministro de IA.
Q2BSTUDIO es una empresa de desarrollo de software y aplicaciones a medida especializada en inteligencia artificial, ciberseguridad y servicios cloud. Diseñamos software a medida y aplicaciones a medida pensadas para integrar modelos de IA de forma segura, desplegar agentes IA y soluciones de ia para empresas. También proporcionamos servicios cloud aws y azure y servicios de inteligencia de negocio con integración de power bi para convertir datos en decisiones.
Si buscas reforzar seguridad en modelos ML o construir aplicaciones que gestionen modelos de forma segura, contamos con servicios de detección y pruebas, auditoría y hardening. Conoce nuestras propuestas en soluciones de inteligencia artificial y refuerza la protección con consultoría especializada en servicios de ciberseguridad. También ofrecemos integración con servicios de Business Intelligence y Power BI para explotar tus datos con seguridad y eficiencia.
Proteger modelos ML debe ser parte de la estrategia de seguridad y del ciclo de vida del desarrollo. Si quieres una revisión práctica de tus artefactos o integrar escaneos automáticos en tu pipeline, en Q2BSTUDIO podemos ayudarte a implementar controles para que tus modelos sean tratados como lo que realmente son: ejecutables que merecen las mismas garantías que el software tradicional.
