nvidia · Jazykové modely · 4,0 mld. parametrů
Malý model od NVIDIA pro uvažování i běžné odpovědi; uvažování se řídí systémovou zprávou.
Zájemce o malé lokální modely a vývojáře aplikací.
Podle karty kontext až 262 tisíc tokenů; velikost 4 miliardy parametrů.
Vejde se do běžného počítače s 16 GB paměti. Odhad paměti jen pro váhy modelu: zhruba 2,2 GB ve 4bitové podobě a 7,9 GB v plné přesnosti.
Karta češtinu neuvádí. Ověřit testem.
Vlastní licence (v API other). Data použitá k trénování končí v září 2024.
Licence: nvidia-nemotron-open-model-license. Komerční použití závisí na vlastních podmínkách licence — přečtěte si je u autora před nasazením.