← Open source modely

MiniCPM5-2B

openbmb · Jazykové modely · 2,5 mld. parametrů

Velmi malý model (2 miliardy parametrů) určený pro běh v zařízení a na slabším hardwaru, s důrazem na kód, matematiku a práci s nástroji.

Pro koho je

Vývojáře aplikací pro telefony a zařízení s omezenou pamětí.

Jak ho zkusit

Kontext 131 072 tokenů; licence Apache 2.0.

Na čem poběží

Vejde se do běžného počítače s 16 GB paměti. Odhad paměti jen pro váhy modelu: zhruba 1,4 GB ve 4bitové podobě a 5 GB v plné přesnosti.

Čeština

Karta češtinu neuvádí. Ověřit testem.

Omezení

Kvalita je omezená velikostí; srovnání na kartě jsou údaje výrobce.

Licence a údaje

Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.

Modelová karta na Hugging Face