Lokale AI zonder internet: hardware op vol vermogen

Mijn laptop is uit 2022. Ryzen 7, 16 GB RAM, geïntegreerde graphics. Geen vlaggenschip. Voor Commander Flow dacht ik dat ik voor „echte AI” een nieuwe nodig had — met een aparte kaart, minstens 32 GB, liefst een RTX 4090.

Een maand met Commander Flow op de oude laptop heeft me van het tegendeel overtuigd. Deze software doet met mijn hardware wat ik nog van geen enkele andere AI-applicatie heb gezien: hij neemt wat er is en gebruikt het optimaal. Geen geklaag over „onvoldoende VRAM”, geen „abonnement nemen voor betere prestaties”.

Waarom dit werkt

Ik sprak met het team en begreep dat ze de hardware serieus aanpakken. Wat me het meest opviel: ze trekken de gebruiker niet de configuratie in. Alle keuzes die in gewone AI-software op de gebruiker worden afgewenteld als „kies een runtime”, neemt het product hier zelf.

De spraakherkenningsmotor is eigen werk, gekozen voor mainstream-CPU's. Op een gewone laptop is hij meervoudig sneller dan populaire alternatieven; de balans tussen kwaliteit en snelheid is afgesteld op alledaagse hardware, niet op gamerstoppers. Daarna komt auto-detectie: op mijn laptop wordt de ene modus geactiveerd, op een oudere processor zou een zuinigere worden gekozen. Is er een videokaart, dan wordt die gebruikt. Zo niet, dan draait alles rustig op de processor. Eén binary, verschillende interne modi, niets te configureren.

Een geliefd detail — de microfoon-warmup bij het opstarten. Wanneer de app start, bereidt hij vooraf de audiocapture voor, zodat de eerste sneltoets-druk geen tientallen milliseconden aan initialisatie kwijt is. Niemand ziet dit. Maar wie ervaring heeft met trage spraakassistenten, voelt het verschil meteen op dag één.

En nog iets dat ik onderschat vind: terwijl de motor mijn spraak herkent, bereidt het taalmodel zich parallel voor op de verwerking ervan. Zodra de spraak is herkend, start de polish zonder nieuwe pauze. Uit dat soort kleine parallelliteiten ontstaat het gevoel „reageert direct”.

„Goede engineering is wanneer je niet doorhebt dat hij plaatsvindt. Alles werkt gewoon snel.”

Wat ik op een oude laptop kan draaien

In het tray-menu kies je met één klik de modus die past bij je hardware:

• Uit — alleen dictee, zonder polish. Minimale belasting, instant.
• Licht (~1 GB RAM) — snelle polish, prima voor dagelijkse dictee op een laptop.
• Gemiddeld (~2 GB RAM) — balans tussen kwaliteit en snelheid.
• Slim (~4 GB RAM) — de standaard. Beste kwaliteit voor de meeste machines, default ingeschakeld.
• Versterkte spraakpolish (~1 GB RAM) — aparte lichte modus, polijst alleen de zojuist gedicteerde tekst.
• Promptmodus — het zwaarste model voor serieus werk met geselecteerde tekst en spraakopdrachten erover.

Alle modi — lokaal, op mijn hardware. Zonder cloud. Zonder internetlatency.

Voor de grap zette ik wifi uit — Commander Flow draaide vrolijk verder zonder enige hapering. Dit is écht offline.

Op mijn laptop staat „Slim” — die trekt hij. Onderweg met een dalende batterij wissel ik met één klik naar „Licht”. Voor zware bewerking van een groot geselecteerd stuk schakel ik over naar de „Promptmodus”, op de desktop draait die uitstekend.

Waarom dit beter is dan „AI in de cloud”

Ter vergelijking probeerde ik een paar populaire cloud-dictaatdiensten. De cijfers in de tabel spreken voor zich.

De laatste regel is voor mij de filosofisch belangrijkste. Ik heb voor deze laptop betaald, hij heeft capaciteit — waarom zou ik andermans server huren als ik al een eigen heb?

Waar de hardware zakt

Op heel oude machines voelt de „Lichte” modus aan op het randje. Hij werkt, maar de eerste laadronde duurt merkbaar lang. Ik testte op de oude laptop van mijn schoonmoeder — bruikbaar, niet bliksemsnel. Het team werkt aan optimalisatie voor zwakke hardware.

Met andere zware applicaties open wordt RAM het knelpunt. Als ik tegelijk browser, IDE en Commander Flow in „Slim” modus open heb, hapert de laptop soms. Oplossing — met één klik in het tray-menu wisselen naar „Gemiddeld” of „Licht”.

Het eerste downloaden van de modellen. Bij de eerste start haalt de app de componenten op voor offlinegebruik. Op een trage verbinding merk je dat. Eens in een leven — te overzien, maar wees erop voorbereid.

Wat ik geleerd heb over moderne AI-applicaties

De meeste „AI-apps” in 2026 zijn gewoon wrappers om een cloud-API. Je betaalt abonnement, je wordt gelimiteerd op verzoeken, je gegevens vliegen naar andermans datacenters. Handig — maar architectonisch goedkoop. Het programma zelf doet niets.

Commander Flow is een andere soort. Het is lokale AI-software die je computer als werktuig behandelt, niet als een terminal om verzoeken naar andermans GPU te sturen.

Dat is zeldzaam. Dat is de juiste richting. Dat is iets waar ik graag voor betaal (eenmalig, geen abonnement).

Wie het zou moeten proberen

Als je laptop minder dan vijf jaar oud is en 16+ GB RAM heeft — Commander Flow haalt er meer AI-mogelijkheden uit dan je verwacht. Heb je topspecificaties — dan gaat hij gewoon nog sneller.

In beide gevallen gebruik je wat je al hebt. Tegen de achtergrond van een industrie waar de cloud een abonnement op elke handeling wordt, voelt deze aanpak bijna radicaal.

Veelgestelde vragen over lokale AI en privacy

Gaan mijn gegevens bij Commander Flow naar de cloud?

Standaard niet. Alle spraakherkenning en tekstpolijsting gebeuren lokaal op je apparaat. Er gaat niets naar de cloud, tenzij je zelf een cloudmodel toevoegt in de instellingen en daar bewust naar overschakelt.

Welke hardware is nodig voor lokaal gebruik?

Minimaal — een moderne processor en 8 GB RAM voor de lichte modus. Voor de gemiddelde modus volstaat 16 GB, voor de zwaarste is 16+ GB en bij voorkeur een aparte videokaart aan te raden. De app detecteert je hardware en kiest zelf de optimale modus.

Heb ik een videokaart nodig voor lokale AI?

Niet verplicht. De app draait op de processor. Is er een GPU, dan wordt die automatisch ingezet voor versnelling. Eén binary, dynamische modus-keuze afhankelijk van je hardware.

Kan ik zonder internet werken — bijvoorbeeld in het vliegtuig?

Ja. Na de eerste installatie en de download van de componenten werkt de app volledig offline. Wifi uit of geen verbinding: alles werkt zonder vertraging en zonder limieten op het aantal verzoeken.

Is het veilig om vertrouwelijke documenten te dicteren?

Ja, in lokale modus verlaat de inhoud je computer in geen enkele stap. Daardoor is Commander Flow geschikt voor NDA-documenten, juridische teksten, medische dossiers en alle gevoelige correspondentie.