openai · Jazykové modely · 21 mld. parametrů
Otevřený model od OpenAI na uvažování a agenty (volání nástrojů). Menší verze určená pro nižší latenci a lokální použití.
Vývojáře a nadšence, kteří chtějí model od OpenAI doma nebo ve vlastní aplikaci s licencí Apache 2.0.
Podle karty má 21 miliard parametrů, z toho 3,6 miliardy aktivních. Musí se používat se formátem odpovědí harmony, jinak nefunguje správně.
Potřebuje počítač s 32 GB paměti nebo grafickou kartu s větší pamětí. Odhad paměti jen pro váhy modelu: zhruba 11,5 GB ve 4bitové podobě a 41,8 GB v plné přesnosti.
Karta češtinu neuvádí. Ověřit testem.
Vyžaduje formát harmony; hodnoty výkonu jsou z karty výrobce.
Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.