.jpg)
En el campo del reconocimiento del habla, el aprendizaje auto-supervisado ha mostrado avances significativos, pero se enfrenta al desafío de la complejidad cuadrática debido a la auto-atención. Para abordar esta problemática, se ha propuesto el Resumen Mixto (SM) como una alternativa de tiempo lineal que resume las utterances completas utilizando mean pooling, aunque carece de suficiente contexto local. En este trabajo, se introduce el Resumen Mixto en Ventanas (WSM), que mejora el SM al integrar resúmenes del vecindario local junto con el resumen global, manteniendo la eficiencia mientras mejora las dependencias temporales.
Además, se presenta un enfoque de ajuste selectivo, reemplazando las capas de auto-atención en los modelos de aprendizaje auto-supervisado con bloques de WSM y ajustando solo estos bloques en entornos con recursos limitados. Nuestro enfoque mejora el rendimiento del reconocimiento automático del habla mientras reduce el uso pico de VRAM en un 40\% en los modelos de aprendizaje auto-supervisado. Los bloques de WSM tienen complejidad lineal con una mayor conciencia del contexto. Al reemplazar selectivamente algunas capas de atención se reduce el cómputo, la memoria y la latencia, lo que lo convierte en una opción ideal para el reconocimiento del habla con recursos limitados.
En Q2BSTUDIO, empresa especializada en desarrollo de software a medida y tecnología de vanguardia, comprendemos la importancia de la inteligencia artificial en la actualidad. Con nuestros servicios de aplicaciones a medida y IA para empresas, ayudamos a nuestros clientes a integrar soluciones innovadoras en sus procesos de negocio.
Si estás interesado en aprovechar al máximo los servicios cloud de AWS y Azure, te invitamos a conocer más sobre nuestras capacidades en este ámbito. En Q2BSTUDIO, también ofrecemos servicios de inteligencia de negocio, con herramientas como Power BI que permiten analizar datos y tomar decisiones fundamentadas en información relevante.
Descubre cómo la automatización de procesos y la ciberseguridad pueden potenciar tu empresa, visitando nuestros enlaces de servicios especializados en Automatización de Procesos y Ciberseguridad, para fortalecer tu infraestructura tecnológica y proteger tus datos de forma efectiva.
