← Open source modely

Mistral-7B-Instruct-v0.3

mistralai · Jazykové modely · 7,2 mld. parametrů

Starší, ale hojně používaný model od Mistralu. Podle karty podporuje volání funkcí.

Pro koho je

Zájemce o jednoduchý model na vlastním hardwaru.

Jak ho zkusit

Doporučené je použití přes nástroj mistral-inference, případně Hugging Face Transformers.

Na čem poběží

Vejde se do běžného počítače s 16 GB paměti. Odhad paměti jen pro váhy modelu: zhruba 4 GB ve 4bitové podobě a 14,5 GB v plné přesnosti.

Čeština

Karta češtinu neuvádí. Ověřit testem.

Omezení

Je to starší generace; novější modely jsou výrazně schopnější.

Licence a údaje

Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.

Modelová karta na Hugging Face