Los Vision Transformers (ViT) se han consolidado como una arquitectura dominante en el campo del reconocimiento visual, superando en múltiples tareas a las redes convolucionales tradicionales. Sin embargo, una limitación notable de los modelos estándar es su incapacidad para codificar de forma explícita las simetrías planares que aparecen de manera natural en muchas imágenes, como rotaciones y reflexiones. Investigaciones recientes proponen una familia de Vision Transformers equivariantes a subgrupos discretos del grupo ortogonal O(2), ofreciendo un marco unificado que generaliza arquitecturas previas basadas en simetrías de volteo y simetrías diédricas D4. Esta aproximación permite que las capas del transformador respeten de forma inherente las transformaciones geométricas, mejorando la eficiencia en la extracción de características y reduciendo la necesidad de grandes volúmenes de datos etiquetados.
La clave de esta innovación reside en la construcción de análogos equivariantes de los componentes fundamentales del transformador, como la atención multi-cabeza y las capas de proyección. Los autores demuestran que, para cualquier subgrupo H contenido en G, la clase de ViT equivariantes a G se incrusta naturalmente en la clase de ViT equivariantes a H. Adicionalmente, en el caso de atención de una sola cabeza, la capa de autoatención equivariante implementa todos los mapas de autoatención equivariantes a G que son representables mediante autoatención ordinaria. Se presenta también un modelo basado en parches hexagonales para D6, compatible con simetrías rotacionales de 60 grados, lo cual resulta especialmente útil en dominios como la teledetección y la imagen aérea.
Los experimentos realizados sobre el conjunto de datos PatternNet, en condiciones artificiales de escasez de datos, comparan dos mecanismos de atención equivariante y analizan cómo la elección de configuraciones de espacio homogéneo en las no linealidades afecta al rendimiento. Los resultados preliminares indican que la equivarianza puede mejorar significativamente la precisión del reconocimiento, abriendo la puerta a nuevas estrategias para entrenar modelos más robustos con menos muestras. Esta línea de investigación tiene implicaciones directas en aplicaciones prácticas como la clasificación de imágenes satelitales, la inspección industrial o la conducción autónoma, donde las simetrías geométricas son frecuentes y los datos etiquetados son costosos de obtener.
Para las empresas que buscan incorporar estas capacidades avanzadas en sus procesos, contar con un socio tecnológico especializado en inteligencia artificial es fundamental. En Q2BSTUDIO desarrollamos aplicaciones a medida que integran modelos de visión computacional state-of-the-art, adaptados a las necesidades específicas de cada negocio. A través de nuestros servicios de software a medida, podemos implementar arquitecturas equivariantes que optimicen el reconocimiento visual en entornos con datos limitados, reduciendo costes y acelerando la puesta en producción.
Además, la implementación de estos modelos requiere una infraestructura cloud robusta para el entrenamiento y despliegue. Ofrecemos servicios cloud AWS y Azure que garantizan escalabilidad y rendimiento, complementados con soluciones de ciberseguridad para proteger los datos sensibles. Nuestro equipo también proporciona servicios inteligencia de negocio con Power BI para visualizar los resultados de los modelos, y desarrollamos agentes IA que automatizan flujos de trabajo basados en el análisis visual. De esta forma, ayudamos a las empresas a aprovechar al máximo la IA para empresas, integrando innovaciones como los Vision Transformers equivariantes en sus sistemas existentes.
