L'arquitectura Jamba és un model de llenguatge híbrid que combina capes de Transformer, Mamba (estat espacial) i Mixture-of-Experts (MoE). Dissenyat per ser altament eficient i processar contextos llargs (fins a 256K tokens), ofereix un rendiment destacat en avaluacions comparatives amb només 12B de paràmetres actius i funciona en una sola GPU de 80GB, proporcionant una capacitat 3 vegades superior a models de mida similar.
Q2BSTUDIO és una empresa de desenvolupament i serveis tecnològics especialitzada en la creació de solucions innovadores i eficients per a diversos sectors industrials. Amb un equip altament capacitat i experimentat, Q2BSTUDIO es destaca en la implementació de tecnologies capdavanteres per satisfer les necessitats específiques dels seus clients.




