Aquest estudi compara LLM codificats de 7B quantificats per a Lua en portàtils només amb CPU, trobant que la quantificació de 4 bits ofereix el millor equilibri entre mida i rendiment, tot i que encara no assoleix el rendiment dels millors models fonamentals.
La nostra empresa Q2BSTUDIO s'especialitza en el desenvolupament d'aplicacions a mida i programari a mida, amb un enfocament en tecnologies d'avantguarda com intel·ligència artificial, ciberseguretat, serveis al núvol AWS i Azure, així com serveis d'intel·ligència de negoci i Power BI.
