← Open source modely

gpt-oss-120b

openai · Jazykové modely · 117 mld. parametrů

Větší model gpt-oss pro produkční použití a náročné uvažování.

Pro koho je

Firmy s grafickou kartou třídy 80 GB (NVIDIA H100 nebo AMD MI300X) nebo s API poskytovatelem.

Jak ho zkusit

Podle karty se vejde na jednu 80GB kartu (117 miliard parametrů, 5,1 miliardy aktivních). Také vyžaduje formát harmony.

Na čem poběží

Doma prakticky nespustitelný, realisticky přes API poskytovatelů. Odhad paměti jen pro váhy modelu: zhruba 64,3 GB ve 4bitové podobě a 234 GB v plné přesnosti.

Čeština

Karta češtinu neuvádí. Ověřit testem.

Omezení

Na běžném počítači nespustitelný.

Licence a údaje

Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.

Modelová karta na Hugging Face