En el ámbito del desarrollo de grandes modelos de lenguaje (LLM), la fusión de modelos se presenta como una herramienta poderosa para combinar capacidades y mejorar el rendimiento. Sin embargo, la escalabilidad de este proceso puede resultar desafiante, ya que la elección del operador de fusión, el subconjunto de modelos y el orden de fusión pueden influir significativamente en los resultados, lo que a menudo requiere búsquedas costosas de fusión y evaluación.
En este contexto, ha surgido SimMerge, un método predictivo de selección de fusión que identifica fusiones con alto rendimiento utilizando señales de similitud entre modelos, de forma económica y sin depender de tareas específicas. Con SimMerge, es posible extraer características funcionales y estructurales a partir de un pequeño conjunto de sondas sin etiquetar, lo que permite predecir el rendimiento de fusiones candidatas de dos vías. Esto facilita la selección de operadores de fusión, órdenes y subconjuntos de modelos sin necesidad de evaluaciones iterativas.
Los resultados obtenidos demuestran que SimMerge supera consistentemente al mejor operador de fusión fijo en LLMs de 7 mil millones de parámetros, generalizando incluso a fusiones de varias vías y LLMs de 111 mil millones de parámetros sin necesidad de volver a entrenar. Además, se ha introducido una variante de bandit que permite agregar nuevas tareas y operadores en línea, lo que amplía aún más las posibilidades de esta metodología.
En este sentido, la capacidad de aprendizaje de fusión se presenta como una alternativa eficaz para la composición escalable de modelos, especialmente en entornos donde los catálogos de puntos de control son extensos y los presupuestos de evaluación son limitados.
En Q2BSTUDIO, como empresa especializada en desarrollo de software y tecnología, trabajamos en la creación de aplicaciones a medida y en la implementación de soluciones basadas en inteligencia artificial para empresas. Si estás interesado en conocer más sobre nuestros servicios de inteligencia de negocio, puedes visitar nuestro enlace de Business Intelligence y Power BI.
