openbmb · Jazykové modely · 2,5 mld. parametrů
Velmi malý model (2 miliardy parametrů) určený pro běh v zařízení a na slabším hardwaru, s důrazem na kód, matematiku a práci s nástroji.
Vývojáře aplikací pro telefony a zařízení s omezenou pamětí.
Kontext 131 072 tokenů; licence Apache 2.0.
Vejde se do běžného počítače s 16 GB paměti. Odhad paměti jen pro váhy modelu: zhruba 1,4 GB ve 4bitové podobě a 5 GB v plné přesnosti.
Karta češtinu neuvádí. Ověřit testem.
Kvalita je omezená velikostí; srovnání na kartě jsou údaje výrobce.
Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.