Los Modelos de Visión-Lenguaje Mixture-of-Experts (MoE) ofrecen un rendimiento excepcional, pero conllevan costos prohibitivos en términos de memoria y recursos computacionales, lo que hace esencial la compresión. La Cuantización Post-Training (PTQ) es una técnica efectiva que no requiere entrenamiento para abordar la gran sobrecarga de memoria y cómputo. Sin embargo, los paradigmas de cuantización existentes no logran satisfacer completamente las necesidades, ya que no consideran dos formas críticas de heterogeneidad: la discrepancia inherente entre tokens de visión y lenguaje, y la contribución no uniforme de diferentes expertos.
Para solucionar esta brecha, se propone Visual Expert Quantization (VEQ), un marco de cuantización dual diseñado para acomodar simultáneamente las diferencias intermodales y la heterogeneidad entre expertos. VEQ incorpora una Cuantización Consciente de la Modalidad de los Expertos, que utiliza la frecuencia de activación del experto para priorizar la minimización del error para los expertos clave, y una Cuantización Consciente de la Afinidad de la Modalidad, que construye una matriz Hesiana mejorada integrando la afinidad token-experto con la información de la modalidad para guiar el proceso de calibración.
Experimentos extensos en diversos benchmarks confirman que VEQ supera consistentemente a los baselines de última generación, logrando mejoras significativas en la precisión promedio en comparación con los métodos de cuantización previos. Bajo la configuración W3A16, nuestro método alcanza aumentos significativos del 2.04% en Kimi-VL y del 3.09% en Qwen3-VL en comparación con los métodos de cuantización SOTA anteriores, demostrando una mayor robustez en diversas tareas multimodales.
Nuestros servicios de desarrollo de software a medida, inteligencia artificial y servicios cloud AWS y Azure pueden ayudarte a implementar tecnologías innovadoras como VEQ en tu empresa. En Q2BSTUDIO somos expertos en la creación de aplicaciones personalizadas y soluciones tecnológicas que se adaptan a las necesidades específicas de cada negocio. Si estás interesado en potenciar tu empresa con IA, ciberseguridad, inteligencia de negocio o automatización de procesos, no dudes en contactarnos.
Para más información sobre nuestros servicios relacionados con la inteligencia artificial y el desarrollo de aplicaciones a medida, visita nuestro sitio web q2bstudio.com.
