Lokální AI bez internetu: hardware na maximum

Mám notebook z roku 2022. Ryzen 7, 16 GB RAM, integrovaná grafika. Ne flagship. Před Commander Flow jsem si myslel, že na „opravdové AI“ si musím koupit nový – s dedikovanou kartou, minimálně 32 GB, ideálně RTX 4090.

Měsíc s Commander Flow na starém notebooku mě přesvědčil o opaku. Tenhle software se starým hardwarem dělá to, co jsem od žádné jiné AI aplikace neviděl: vezme všechno, co je k dispozici, a optimálně to využije. Bez stížností na „nedostatek VRAM“, bez „kupte si předplatné pro lepší výkon“.

Proč to funguje

Mluvil jsem s týmem a pochopil, že k hardwaru přistupují vážně. Nejvíc mě zaujalo: nenutí uživatele do konfigurace. Všechna rozhodnutí, která v běžném AI softwaru padají na uživatele jako „vyberte runtime“, tady produkt řeší sám.

Engine na rozpoznávání řeči mají vlastní, vybraný pro běžný CPU. Na obyčejném notebooku je výrazně rychlejší než populární alternativy; parametrický balanc kvalita/rychlost je nastavený pro běžný hardware, ne pro herní top sestavy. Pak přichází automatická detekce: na mém notebooku se zapíná jeden režim, na starším procesoru by se zapnul jiný, úspornější. Pokud máte grafickou kartu – využije se. Pokud ne – vše klidně běží na procesoru. Stejný binární soubor, různé režimy uvnitř, nic není potřeba nastavovat.

Oblíbený detail – zahřátí mikrofonu při startu. Když se aplikace spustí, audiozáchyt si připraví dopředu, aby první stisk zkratky neutratil desítky milisekund na inicializaci. Nikdo to nevidí. Ale pokud jste dřív používali pomalé hlasové asistenty, rozdíl pocítíte hned první den.

A ještě jedna věc, kterou považuju za podceněnou: zatímco engine zpracovává moji řeč, jazykový model se na její zpracování připravuje paralelně. Když řeč doběhne, polotovka startuje bez nové pauzy. Z takových malých paralelností vzniká pocit „reaguje okamžitě“.

„Dobré inženýrství poznáš podle toho, že netušíš, kdy se děje. Prostě všechno běží rychle.“

Co můžu pouštět na starém notebooku

V liště si jedním kliknutím vyberete režim odpovídající síle vašeho hardwaru:

• Vypnuto – jen diktování, bez polotovky. Minimum zdrojů, okamžité.
• Lehký (~1 GB RAM) – rychlá polotovka, výborně se hodí pro běžné diktování na notebooku.
• Střední (~2 GB RAM) – rovnováha kvality a rychlosti.
• Chytrý (~4 GB RAM) – výchozí. Nejlepší kvalita pro většinu strojů, nastavený standardně.
• Zesílená polotovka hlasového vstupu (~1 GB RAM) – samostatný lehký režim, leští čerstvě nadiktovaný text.
• Režim promptingu – největší model pro vážnou práci s označeným textem a hlasovými příkazy nad ním.

Všechny režimy běží lokálně, na mém hardwaru. Bez cloudu. Bez prodlev internetu.

Pro pokus jsem vypl Wi-Fi a Commander Flow běžel dál bez jediného škytnutí. Tohle je opravdový offline.

Na mém notebooku stojí „Chytrý“ – utáhne ho. Když jsem na cestách a baterka klesá, jedním klikem v liště přepnu na „Lehký“. Když potřebuju vážné přepracování velkého výběru – přepnu do „Režimu promptingu“; na desktopu funguje skvěle.

Proč je to lepší než „AI v cloudu“

Pro porovnání jsem vyzkoušel pár populárních cloudových diktovníků. Čísla v tabulce mluví za sebe.

Poslední řádek je pro mě filozoficky nejdůležitější. Zaplatil jsem za tenhle notebook, výkon má – proč bych měl pronajímat cizí server, když mám vlastní?

Kde hardware tlačí

Na opravdu starých strojích režim „Lehký“ jede na hraně. Funguje, ale prvotní načtení trvá znatelně dlouho. Testoval jsem na starém notebooku tchýně – snesitelné, ale ne bleskové. Tým pracuje na optimalizaci pro slabý hardware.

Když běží jiné náročné aplikace, RAM se stává úzkým hrdlem. Když mám současně otevřený prohlížeč, IDE a Commander Flow v „Chytrém“ režimu, notebook občas zaškobrtne. Řešení – přepnout na „Střední“ nebo „Lehký“ jedním klikem v liště.

Prvotní stahování modelů. Při prvním spuštění aplikace stahuje komponenty pro offline provoz. Na pomalém internetu je to znát. Jednou za život – snesitelné, ale je dobré to mít na paměti.

Co jsem pochopil o současných AI aplikacích

Většina „AI aplikací“ v roce 2026 jsou jen obaly nad cloudovým API. Platíš předplatné, omezují tě v počtu požadavků, tvoje data poletí do cizích datacenter. Pohodlné – ale architektonicky levné. Samotný program nedělá nic.

Commander Flow je jiná porce. Je to lokální AI software, který se k mému počítači chová jako k pracovnímu nástroji, ne jako k terminálu pro odesílání požadavků na cizí GPU.

To je vzácnost. Správný směr. To, čemu chci platit (jednou, bez předplatného).

Komu to stojí za to vyzkoušet

Pokud máš notebook mladší než pět let a 16+ GB RAM – Commander Flow z něj vyždímá víc AI možností, než čekáš. Pokud máš špičkový hardware, prostě poběží ještě rychleji.

V obou případech využíváš to, co už máš. Na pozadí průmyslu, kde se z cloudu stalo předplatné na každý kýchnutí, vypadá tenhle přístup skoro radikálně.

Časté otázky o lokálním AI a soukromí

Odcházejí má data do cloudu při práci s Commander Flow?

Ve výchozím nastavení ne. Veškeré rozpoznávání řeči a polotovka textu probíhají lokálně, na vašem zařízení. Do cloudu nic neodchází, dokud sami v nastavení nepřipojíte cloudový model a explicitně nepřepnete.

Jaké jsou hardwarové požadavky pro lokální provoz?

Minimum – současný procesor a 8 GB operační paměti pro lehký režim. Pro střední stačí 16 GB, pro nejsilnější 16+ GB a nejlépe dedikovaná grafická karta. Aplikace si hardware sama detekuje a zvolí optimální režim.

Je k provozu lokálního AI nutná grafická karta?

Není povinná. Aplikace běží na procesoru. Pokud je k dispozici GPU, použije se automaticky pro zrychlení. Stejný binární soubor, dynamická volba režimu podle vašeho hardwaru.

Lze pracovat bez internetu — třeba v letadle?

Ano. Po prvotní instalaci a stažení komponent aplikace funguje plně offline. Wi-Fi vypnutá nebo nedostupná – vše funguje bez prodlev a bez omezení počtu požadavků.

Je bezpečné diktovat důvěrné dokumenty?

Ano, v lokálním režimu obsah ani v jednom kroku neopouští váš počítač. Díky tomu se Commander Flow hodí pro dokumenty pod NDA, právní texty, lékařské záznamy i jakoukoli citlivou korespondenci.