mistralai · Jazykové modely · 7,2 mld. parametrů
Starší, ale hojně používaný model od Mistralu. Podle karty podporuje volání funkcí.
Zájemce o jednoduchý model na vlastním hardwaru.
Doporučené je použití přes nástroj mistral-inference, případně Hugging Face Transformers.
Vejde se do běžného počítače s 16 GB paměti. Odhad paměti jen pro váhy modelu: zhruba 4 GB ve 4bitové podobě a 14,5 GB v plné přesnosti.
Karta češtinu neuvádí. Ověřit testem.
Je to starší generace; novější modely jsou výrazně schopnější.
Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.