2026-10-24 · 6 min čtení
Chcete AI, které data neopustí počítač, nebo vás lákají modely zdarma? S Ollamou nebo LM Studiem rozběhnete jazykový model doma za čtvrt hodiny. Návod krok za krokem, kolik paměti potřebujete, proč malé modely píšou česky s chybami a jak nad modelem prohledávat vlastní dokumenty.
V českých skupinách o AI se opakují tři důvody, proč lidé chtějí model doma: firemní dokumenty, které nesmí do cloudu, zvědavost a nulové měsíční poplatky. Všechny tři jsou rozumné. Hned na začátku ale jedna poctivá věta: lokální model na běžném notebooku nebude tak chytrý jako placený ChatGPT nebo Claude. Hodí se na shrnutí, třídění, přepis a práci s vlastními texty. Na náročné úvahy, dlouhé odborné texty nebo bezchybnou češtinu zatím ne.
Rozhoduje paměť, ve které model běží. Ideálně je to paměť grafické karty (VRAM), na Macu s čipem M sdílená paměť. Orientační pravidlo pro běžně používanou „zkomprimovanou“ verzi modelu (kvantizace Q4):
Když model do paměti karty nevejde, poběží z běžné paměti počítače. Funguje to, ale odpovědi pak přicházejí po slovech jako dálnopis. Pro první pokus stačí notebook s 16 GB paměti a model kolem 8 miliard parametrů.
Ollama je bezplatný program pro Windows, Mac i Linux. Stáhnete ho z ollama.com, nainstalujete a v příkazovém řádku napíšete:
ollama run qwen3Ollama model stáhne a rovnou s ním můžete psát. Názvy modelů a velikostí najdete v knihovně na webu Ollamy. Pokud se příkazovému řádku chcete vyhnout, novější verze Ollamy mají i jednoduché okno pro chat.
LM Studio je totéž s grafickým rozhraním. Model vyberete ve vyhledávání, aplikace sama ukáže, jestli se vám do paměti vejde, a stáhne ho. Pro začátečníky je to pohodlnější cesta.
Tady přichází nejčastější zklamání. Malé modely do 8 miliard parametrů píšou česky se zkomolenými slovy, špatnými pády a občas vymyšlenými výrazy. Je to dané tím, že češtiny bylo v jejich tréninku málo. Nejde to opravit nastavením, pomůže jen větší model.
Zadejte proto 2–3 modelům stejnou úlohu a porovnejte:
Napiš česky krátký e-mail zákazníkovi, že se dodávka zpozdí
o tři dny kvůli výpadku u dodavatele. Omluv se, nabídni slevu
5 % na příští objednávku a buď stručný. Pak vypiš, které věty
by mohly znít nepřirozeně.V praxi platí: čím větší model, který se vejde do paměti, tím lepší čeština. Slušně česky obvykle píšou modely od zhruba 12–14 miliard parametrů výš z rodin Qwen, Gemma a Mistral. Konkrétní verze se mění tak rychle, že je lepší je porovnat sám než spoléhat na loňský žebříček.
Samotný chat nad modelem nic o vašich souborech neví. Na dokumenty potřebujete nadstavbu, která je umí prohledat a podstrčit modelu správné pasáže (odborně RAG):
Zadání pro práci s dokumenty:
Odpovídej jen z nahraných dokumentů. U každé odpovědi uveď
název dokumentu a kapitolu, odkud informace je. Když
odpověď v dokumentech není, napiš „V dokumentech to není“
a nic si nedomýšlej.Počítejte s tím, že u desítek dlouhých dokumentů je kvalita odpovědí horší než u cloudových služeb. Pokud dokumenty smí ven, je pohodlnější a přesnější NotebookLM.
Programy i modely jsou zdarma. Platíte hardware a elektřinu. Na zkoušení stačí počítač, který máte. Pro pohodlnou práci s modely kolem 14 miliard parametrů je potřeba grafická karta s 12–16 GB paměti nebo Mac s alespoň 24 GB sdílené paměti, a to je investice v desítkách tisíc korun. Pro jednoho člověka, kterému nevadí cloud, proto vyjde levněji předplatné. Lokální AI se vyplatí hlavně tam, kde data opravdu nesmí ven.
Rozdíly mezi otevřenými a cloudovými modely rozebíráme v článku Cloudové vs. open-source modely.
Redakční návod AI v češtině, stav k 21. 10. 2026. Vychází z dotazů v českých skupinách o AI. Nabídka modelů a jejich velikosti se mění každý měsíc, aktuální seznam ověřte v knihovně Ollamy nebo v LM Studiu.
Téma: Soukromí a bezpečnost · Open-source modely