Lokale KI ohne Internet: Hardware ausgereizt

Ich habe einen Laptop von 2022. Ryzen 7, 16 GB RAM, integrierte Grafik. Kein Flaggschiff. Vor Commander Flow dachte ich, für „echte KI" müsste ich mir einen neuen kaufen – mit dedizierter Karte, mindestens 32 GB, am besten RTX 4090.

Ein Monat Commander Flow auf dem alten Laptop hat mich vom Gegenteil überzeugt. Diese Software macht mit meiner Hardware das, was ich von keiner anderen KI-App kenne: sie nimmt, was da ist, und nutzt es optimal. Ohne Klagen über „zu wenig VRAM", ohne „kaufen Sie Pro für bessere Leistung".

Warum das funktioniert

Ich habe mit dem Team gesprochen und verstanden, dass sie das Thema Hardware ernst nehmen. Was mich beeindruckt hat: Sie zwingen den Nutzer nicht in die Konfiguration. Alles, was in gewöhnlicher KI-Software dem Nutzer als „wählen Sie Ihre Runtime" zugeschoben wird, übernimmt das Produkt selbst.

Die Spracherkennungs-Engine ist eigen, ausgewählt für Massen-CPUs. Auf einem normalen Laptop um Größenordnungen schneller als populäre Alternativen; das Verhältnis Qualität/Geschwindigkeit ist auf normale Hardware abgestimmt, nicht auf Gaming-Tops. Dann folgt Auto-Detection: auf meinem Laptop einer der Modi, auf einer alten CPU würde ein sparsamerer aktiviert. Wenn eine Grafikkarte da ist – wird sie genutzt. Wenn nicht – läuft alles ruhig auf der CPU. Eine Binary, verschiedene Modi intern, nichts zu konfigurieren.

Lieblings-Detail: Mikrofon-Aufwärmen beim Start. Wenn die App gestartet wird, bereitet sie die Audio-Erfassung vorab vor, damit der erste Hotkey-Druck keine zig Millisekunden auf die Initialisierung wartet. Niemand sieht das. Aber wer früher mit langsamen Sprachassistenten zu tun hatte, spürt den Unterschied am ersten Tag.

Und noch eine Sache, die ich für unterschätzt halte: Während die Engine meine Sprache erkennt, bereitet sich die Sprachmodell schon parallel auf die Verarbeitung vor. Sobald die Erkennung fertig ist – startet die Politur ohne neue Pause. Aus solchen kleinen Parallelitäten entsteht das Gefühl „reagiert sofort".

„Gute Ingenieurskunst ist, wenn du nicht merkst, dass sie passiert. Es funktioniert einfach schnell."

Was auf einem alten Laptop läuft

Im Tray wählt man mit einem Klick den Modus passend zur Hardware:

• Aus — nur Diktat, keine Politur. Minimale Ressourcen, sofort.
• Leicht (~1 GB RAM) — schnelle Politur, perfekt für Alltagsdiktate auf dem Laptop.
• Mittel (~2 GB RAM) — Balance aus Qualität und Geschwindigkeit.
• Smart (~4 GB RAM) — Default. Beste Qualität für die meisten Rechner, Standard.
• Verstärkte Sprachpolitur (~1 GB RAM) — separater leichter Modus, schleift nur den frisch diktierten Text.
• Prompting-Modus — das größte Modell für anspruchsvolle Arbeit mit markiertem Text und Sprachbefehlen darüber.

Alle Modi – lokal, auf meiner Hardware. Ohne Cloud. Ohne Internet-Latenzen.

Ich habe testweise WLAN ausgeschaltet – Commander Flow lief ohne ein einziges Hicksen weiter. Das ist echtes Offline.

Auf meinem Laptop läuft „Smart" – er trägt sie. Wenn ich unterwegs bin und der Akku schwindet, schalte ich mit einem Klick aus dem Tray auf „Leicht". Wenn ich ernste Umarbeitung eines großen markierten Stücks brauche – auf den „Prompting-Modus", auf dem Desktop arbeitet er ideal.

Warum das besser ist als „KI in der Cloud"

Zum Vergleich habe ich ein paar populäre Cloud-Diktiergeräte ausprobiert. Die Zahlen in der Tabelle sprechen für sich.

Die letzte Zeile ist mir philosophisch am wichtigsten. Ich habe für diesen Laptop bezahlt, er hat Leistung – warum sollte ich einen fremden Server mieten, wenn ich schon einen eigenen habe?

Wo die Hardware nachgibt

Auf sehr alten Maschinen fühlt sich „Leicht" an der Grenze an. Funktioniert, aber das erste Laden dauert spürbar. Ich habe es auf dem alten Laptop meiner Schwiegermutter getestet – erträglich, aber nicht blitzschnell. Das Team arbeitet an Optimierungen für schwache Hardware.

Wenn andere schwere Anwendungen laufen, wird RAM zum Engpass. Wenn bei mir gleichzeitig Browser, IDE und Commander Flow im „Smart"-Modus offen sind, ruckelt der Laptop manchmal. Lösung: aus dem Tray auf „Mittel" oder „Leicht" umschalten.

Erstdownload der Modelle. Beim ersten Start lädt die App Komponenten für den Offline-Betrieb. Bei langsamem Internet merkt man das. Einmal im Leben – verkraftbar, sollte man aber wissen.

Was ich über moderne KI-Apps verstanden habe

Die meisten „KI-Apps" 2026 sind einfach Wrapper über einer Cloud-API. Du zahlst Abo, wirst durch Anfragen-Limits gedrosselt, deine Daten fliegen in fremde Rechenzentren. Bequem – aber architektonisch billig. Die App selbst macht nichts.

Commander Flow ist eine andere Sorte. Es ist lokale KI-Software, die deinen Computer als Arbeitsgerät behandelt, nicht als Terminal zum Versenden von Anfragen an fremde GPUs.

Selten. Richtige Richtung. Etwas, wofür ich gerne zahle (einmalig, ohne Abo).

Wer es ausprobieren sollte

Wenn dein Laptop jünger als fünf Jahre ist und 16+ GB RAM hat – Commander Flow holt mehr KI-Funktionen aus ihm heraus, als du erwartest. Wenn du Top-Hardware hast – läuft es einfach noch schneller.

In beiden Fällen nutzt du, was schon da ist. In einer Branche, in der die Cloud zum Abo für jedes Niesen wird, wirkt dieser Ansatz fast radikal.

Häufige Fragen zu lokaler KI und Datenschutz

Verlassen meine Daten beim Arbeiten mit Commander Flow den PC?

Standardmäßig nein. Die gesamte Spracherkennung und Textpolitur läuft lokal auf Ihrem Gerät. Es geht nichts in die Cloud, solange Sie nicht selbst in den Einstellungen ein Cloud-Modell hinzufügen und ausdrücklich umschalten.

Welche Hardware-Anforderungen gibt es für den lokalen Betrieb?

Mindestens ein moderner Prozessor und 8 GB RAM für den leichten Modus. Für den mittleren reichen 16 GB, für den stärksten 16+ GB und idealerweise eine dedizierte Grafikkarte. Die App erkennt die Hardware selbst und wählt den optimalen Modus.

Wird eine Grafikkarte für die lokale KI benötigt?

Nicht zwingend. Die App läuft auf der CPU. Wenn eine GPU vorhanden ist, wird sie automatisch zur Beschleunigung genutzt. Eine Binary, dynamische Modus-Auswahl je nach Hardware.

Funktioniert es ohne Internet — etwa im Flugzeug?

Ja. Nach der Erstinstallation und dem Download der Komponenten arbeitet die App vollständig offline. Wi-Fi aus oder gar nicht vorhanden — alles läuft ohne Latenz und ohne Limits an Anfragen.

Ist es sicher, vertrauliche Dokumente zu diktieren?

Ja. Im lokalen Modus verlässt der Inhalt Ihren Computer in keinem Schritt. Damit eignet sich Commander Flow für NDA-Dokumente, juristische Texte, medizinische Aufzeichnungen und jede sensible Korrespondenz.