Lokale LLM's: vergelijking van polish-modi voor tekst

Een van de dingen waarom ik Commander Flow waardeer — hij sluit me niet op in één configuratie. In het tray-menu kies ik met één klik een modus voor de actuele taak: van lichte polish op accu tot het zwaarste model voor serieus werk met geselecteerde tekst. Een zeldzaamheid in consumenten-AI.

Ik ben een nieuwsgierige gebruiker, dus heb ik in april alle modi door mijn echte taken gehaald. Hieronder mijn keuze per scenario.

Welke modi er zijn

Er zijn er zes in het tray-menu. Zonder RAM-cijfers en techniek: gewoon zes punten op de schaal van „hoe diep wordt de tekst bewerkt”. Van „helemaal niet aanraken” (alleen dictee) tot „door het zwaarste model halen voor een dichte uitkomst”.

Ik probeerde elk in echte taken. Hier is wat waarvoor past.

Test 1: polish van gewone dictee

Ik dicteerde tientallen fragmenten „zoals levende spraak” — met stopwoorden, versprekingen, gedachten die halverwege omsloegen. Subjectief gekeken: hoe natuurlijk de modus de fillers eruit haalt, leestekens plaatst en mijn intonatie behoudt.

• Licht — komt prima door alles wat ik snel en routinematig zeg. Laat soms een overbodige komma staan.
• Gemiddeld — een merkbare stap in „menselijkheid”. Goede keuze voor een laptop zonder videokaart.
• Slim — beste balans. De tekst klinkt alsof ik hem zorgvuldig zelf had geschreven.
• Versterkte polish — niet de „diepste” modus, maar de meest responsieve. Goede optie als je veel kleine berichten dicteert.

Conclusie van deze test is simpel: voor dagelijkse dictee won „Slim”, mits je hardware het trekt. Op zwakkere laptops doen „Gemiddeld” en „Licht” het keurig.

Test 2: spraakopdracht boven Nederlandse tekst → vertaal en herschrijf in stijl

Het meest complexe scenario: ik dicteer in het Nederlands, selecteer mijn tekst en vraag met mijn stem „vertaal naar Duits, in zakelijke stijl”. De modus moet zowel vertalen als de stijl raken, zonder feiten te verliezen.

• Licht, Gemiddeld — komen door korte zinnen heen. Verliezen op lange zinnen soms een idioom.
• Slim — trekt business-stijl in meerdere talen stabiel door. Mijn keuze voor e-mails.
• Promptmodus — beste op complexe spraakopdrachten als „vertaal in formele stijl, aanspreekvorm voor een vrouw, voeg een afsluitende alinea toe met een verzoek om bevestiging”. Bij meerlaagse instructies schakel ik hierheen.

Test 3: lange geselecteerde tekst (documentatie ~1700 woorden)

Belasting voor het vermogen van het model om context vast te houden. Ik selecteerde een groot stuk documentatie en vroeg met mijn stem „maak een samenvatting in vijf punten, zet de cijfers apart”.

• Licht — trekt het, maar mist soms een nuance in „verre” alinea's.
• Gemiddeld — laat consistent niets vallen.
• Slim — houdt de hiërarchie van het belangrijke het beste vast.
• Promptmodus — bij heel grote selecties haalt hij eruit wat lichtere modi negeren. Inschakelen wanneer de samenvatting cruciaal is.

Test 4: spraakopdrachten boven code en technische comments

Ik ben hier veeleisend. Ik wil dat technische termen niet herschreven worden: kubectl blijft kubectl, geen „Kubernetes”, enzovoort.

Alle modi gaan hier prima mee om — Commander Flow gebruikt intern het termenwoordenboek uit de instellingen, en elk model gehoorzaamt dat. Op „Slim” en in de „Promptmodus” worden comments helderder en netter gepolijst, vooral als de comment gemengd is (Nederlands + Latijnse identifiers).

Een belangrijk architectuurpunt: Commander Flow is niet zomaar een wrapper rond een lokaal model, het is een laag van stijl- en terminologiecontrole erbovenop. Daarom geeft zelfs de lichtste modus al een resultaat dat hoofd en schouders boven een „naakte” lokale LLM staat.

Wat ik uiteindelijk koos

Default: Slim. Beste kwaliteit voor redelijke RAM. Dekt de meeste taken — dictee, e-mails, chats, basale spraakopdrachten over geselecteerde tekst.

Wissel naar Promptmodus: bij een complexe meertraps-opdracht over geselecteerde tekst, lange samenvattingen, fijne stijlnuances. Daar werkt het zwaarste model.

Wissel naar Licht: als ik onderweg op accu zit. Lager verbruik, basiskwaliteit — maar een mailtje aan mama wordt nog steeds keurig gepolijst.

Versterkte polish — mijn keuze als ik aan tafel zit en in hoog tempo veel korte berichten dicteer. Snel én netjes.

Uit — bewaar ik voor de uitzondering wanneer ik enkel ruwe speech-to-text wil zonder enige bewerking (bijvoorbeeld een ideeëndump in een bestand).

Wat dit verandert in het product

De mogelijkheid om modi direct vanuit het tray-menu te wisselen zonder de app te herstarten — dat is enorme vrijheid. Ik kan het gereedschap in twee klikken bij de huidige taak laten passen.

Commander Flow wordt duidelijk gebouwd vanuit de aanname dat lokale modellen blijven evolueren, en dat de gebruiker niet vastzit aan wat nieuw was bij aankoop. Het team integreert nieuwe architecturen routinematig in de modi zodra ze beschikbaar zijn.

„Goede AI-software veroudert langzamer dan hardware. Commander Flow is zo'n geval.”

Waar je op moet letten

Wisselen tussen modi vereist laden. Van een zware naar een lichte modus — bijna direct. Andersom — een paar seconden lezen vanaf schijf. Zeldzame handeling, maar tel even af als je „even iets anders wilt proberen”.

Ruimte op de schijf. Alle componenten van de modi samen nemen aanzienlijke schijfruimte in. Je kunt ongebruikte uitschakelen in de instellingen, maar bij de eerste „laten we eens kijken wat er allemaal is” verbaast de hoeveelheid.

De zwaarste modus vraagt fatsoenlijke hardware. Op een hele oude laptop draait de Promptmodus traag. Met zwakke hardware blijft Slim of lager je grens.

Voor wie is dit eigenlijk

De meeste gebruikers gaan nooit met modi spelen. Ze installeren Commander Flow, zien dat „Slim” prima werkt — en zijn tevreden.

Maar wie dieper wil graven — er valt te graven, en het loont. Mijn config heb ik samengesteld, ik wissel modi op context — en dat voelt als heel volwassen productwerk.

Ik ga verder werken in Slim. En ik schrijf het volgende artikel.