Los modelos de difusión son ampliamente utilizados en los servicios de inteligencia artificial y ciberseguridad, pero su dependencia de datos de entrenamiento opacos expone una amplia superficie de ataque para la inyección de puertas traseras. En escenarios de auditoría práctica, los auditores suelen ser incapaces de acceder a los parámetros del modelo, lo que hace que los métodos existentes de detección basados en cajas blancas o consultas intensivas sean impracticables.
En Q2BSTUDIO, una empresa especializada en el desarrollo de software a medida, nos enfrentamos a desafíos similares al implementar soluciones de inteligencia artificial para empresas en entornos de ciberseguridad. Es por esto que resulta crucial abordar la detección y desintoxicación de puertas traseras de manera efectiva y eficiente.
Un hallazgo importante en este campo es el fenómeno de la inconsistencia del ruido temporal, donde las predicciones de ruido entre pasos de difusión adyacentes se ven alteradas en segmentos temporales específicos cuando se activa la entrada, mientras que permanecen estables bajo entradas limpias. Aprovechando esta observación, se propone el "Centinela de puerta trasera: Detección y desintoxicación de puertas traseras en modelos de difusión mediante consistencia de ruido temporal" (TNC-Defense), un marco unificado para la detección y desintoxicación de puertas traseras.
Este enfoque innovador utiliza la consistencia del ruido entre pasos de tiempo adyacentes para diseñar un módulo de detección de cajas grises, que identifica y localiza los pasos de difusión anómalos. Además, el marco utiliza los pasos de tiempo anómalos identificados para construir un módulo de desintoxicación consciente de los pasos de tiempo, que corrige directamente la ruta de generación de la puerta trasera. Esto suprime efectivamente el comportamiento de la puerta trasera y reduce significativamente los costos de desintoxicación.
En Q2BSTUDIO ofrecemos una amplia gama de servicios, desde desarrollo de software a medida hasta implementación de inteligencia artificial para empresas. Integrando tecnologías de ciberseguridad avanzadas y servicios en la nube como AWS y Azure, estamos preparados para abordar los desafíos más complejos en el campo de la seguridad informática.
Al enfrentar cinco escenarios representativos de ataques de puertas traseras, TNC-Defense ha demostrado mejorar la precisión de detección promedio en un 11%, con un costo adicional negligente, invalidando en promedio el 98.5% de las muestras activadas con solo una ligera degradación en la calidad de generación.
