HuggingFaceTB · Jazykové modely · 3,1 mld. parametrů
Malý, plně otevřený model (včetně popisu trénování a dat). Má dva režimy: s uvažováním a bez něj.
Studenty, učitele a zájemce o to, jak se jazykové modely trénují; běží i na slabším hardwaru.
Kontext podle karty 64 tisíc tokenů, s YaRN až 128 tisíc.
Vejde se do běžného počítače s 16 GB paměti. Odhad paměti jen pro váhy modelu: zhruba 1,7 GB ve 4bitové podobě a 6,2 GB v plné přesnosti.
Karta uvádí šest podporovaných jazyků (angličtina, francouzština, španělština, němčina, italština, portugalština). Čeština mezi nimi není, výsledky budou slabší.
Menší model, slabší na složité úlohy. Češtinu oficiálně nepodporuje.
Licence: Apache 2.0. Podle licence jde použít i komerčně, s dodržením jejích podmínek.