Qwen · Jazykové modely · 28 mld. parametrů
Univerzální jazykový model od Alibaby, který umí i obrázky na vstupu. Hodí se na psaní textů, shrnování, programování a analýzu dokumentů.
Firmy a nadšence, kteří chtějí silný model pod volnou licencí a mají výkonnější počítač nebo server.
Podle karty běží v Hugging Face Transformers, vLLM a SGLang. Oficiální hostovaná verze (Qwen Cloud) je podle karty oznámená jako připravovaná.
Potřebuje počítač s 32 GB paměti nebo grafickou kartu s větší pamětí. Odhad paměti jen pro váhy modelu: zhruba 15,3 GB ve 4bitové podobě a 55,6 GB v plné přesnosti.
Karta češtinu výslovně neuvádí. Před nasazením ověřte na vlastních textech.
Je to model střední velikosti, doma ho spustíte jen kvantizovaný a na dostatečně výkonném počítači. Kontext 1 milion tokenů karta uvádí u hostované verze, ne pro vlastní provoz.
Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.