LLM locaux : comparaison des modes de mise au propre

L'une des choses que j'aime chez Commander Flow, c'est qu'il ne me verrouille pas dans une seule configuration. Dans la barre des tâches, en un clic, on choisit le mode adapté à la tâche en cours : de la mise au propre légère sur batterie au mode le plus puissant pour le travail sérieux sur du texte sélectionné. Une rareté dans les applis IA grand public.

Je suis un utilisateur curieux, alors en avril j'ai poussé tous les modes sur mes vraies tâches. Je partage lequel je choisis quand.

Quels sont les modes

Dans la barre des tâches, ils sont six. Sans chiffres de RAM ni détails techniques : six points sur l'échelle « à quel point traiter le texte en profondeur ». De « ne touche à rien » (juste la dictée) à « passe via le plus gros modèle pour un résultat dense ».

J'ai essayé chacun sur mes vraies tâches. Voici ce qui convient à quoi.

Test 1 : Mise au propre d'une dictée ordinaire

J'ai dicté des dizaines de fragments « comme à l'oral » — avec tics, hésitations, changement de pensée en cours. J'ai regardé subjectivement : à quel point chaque mode nettoie naturellement les tics, ponctue et préserve mon intonation.

• Léger — gère tout ce que je dis vite et sans réfléchir. Laisse parfois une virgule de trop.
• Intermédiaire — pas notable en « humanité » de la mise au propre. Bon compromis pour un portable sans GPU.
• Smart — meilleur équilibre. Le texte sonne comme si je l'avais soigneusement écrit.
• Mise au propre renforcée — pas le mode le plus « profond », mais le plus réactif en vitesse. Bonne option quand on dicte beaucoup de petits messages.

Conclusion simple sur ce test : pour la dictée quotidienne, c'est « Smart » qui ressort le mieux, si le matériel suit. Sur les portables plus modestes, « Intermédiaire » et « Léger » fonctionnent très bien.

Test 2 : Commande vocale sur du texte français sélectionné → traduction et réécriture stylistique

C'est le scénario le plus exigeant : je dicte en français, je sélectionne mon texte et je demande à voix haute « traduis en allemand, en style pro ». Le mode doit traduire et réécrire dans le bon style en préservant les faits.

• Léger, Intermédiaire — gèrent les phrases courtes. Sur les longues, perdent parfois l'idiome.
• Smart — sort un business style stable dans plusieurs langues. Mon choix pour les e-mails.
• Mode prompt-engineering — meilleur sur les commandes vocales complexes du genre « traduis en style formel, formule pour une femme, ajoute un dernier paragraphe demandant confirmation ». Quand l'instruction est multi-couches, je bascule ici.

Test 3 : Long texte sélectionné (documentation ~1700 mots)

C'est une charge sur la capacité du modèle à tenir le contexte. J'ai sélectionné un gros morceau de doc et demandé à voix haute « fais un résumé en cinq points, mets en avant les chiffres ».

• Léger — gère, mais rate parfois une nuance dans les paragraphes « lointains ».
• Intermédiaire — ne rate rien de manière stable.
• Smart — meilleur pour tenir la hiérarchie de l'important.
• Mode prompt-engineering — sur les sélections très grosses, il sort ce que les modes plus légers ignorent. À activer quand le résumé est critique.

Test 4 : Commandes vocales sur du code et des commentaires techniques

Je suis très exigeant sur ce scénario. Je veux que les termes techniques ne soient pas réécrits : kubectl reste kubectl, pas « Kubernetes », et ainsi de suite.

Tous les modes gèrent ça correctement : Commander Flow utilise en interne le dictionnaire de termes des paramètres, et tous les modèles le respectent. Sur « Smart » et en « Mode prompt-engineering », la mise au propre des commentaires sort plus propre et plus soignée, surtout quand le commentaire est mixte (français + identifiants en latin).

C'est un point architectural important : Commander Flow n'est pas un simple wrapper autour d'un modèle local, c'est une couche de contrôle du style et de la terminologie par-dessus. C'est pour ça que même le mode le plus léger donne un résultat nettement meilleur qu'un modèle local « nu ».

Ce que j'ai retenu pour ma config

Défaut : Smart. Meilleure qualité pour une RAM raisonnable. Couvre la majorité des tâches — dictée, e-mails, chats, commandes vocales basiques sur du texte sélectionné.

Je passe en Mode prompt-engineering : quand il faut une commande complexe en plusieurs étapes sur du texte sélectionné, des résumés longs, une stylistique fine. C'est là que le plus gros modèle tourne.

Je passe en Léger : quand je suis en déplacement sur batterie. Consommation énergétique plus faible, qualité de base — mais l'e-mail à maman sera quand même bien poli.

Mise au propre renforcée — mon choix quand je suis assis et que je dicte vite beaucoup de messages courts dans des chats. Réactif et de qualité.

Désactivé — je le garde pour les cas extrêmes : un dump speech-to-text brut, sans aucun traitement (par exemple, jeter des idées dans un fichier).

Ce que ça change dans le produit

La possibilité de basculer les modes directement depuis la barre des tâches sans redémarrer l'application, c'est une énorme liberté. Je peux adapter l'outil à la tâche du moment en deux clics.

Commander Flow est manifestement conçu en tablant sur le fait que les modèles locaux vont continuellement évoluer, et que l'utilisateur ne doit pas dépendre de ce qui était nouveau au moment de l'achat. L'équipe intègre régulièrement les nouvelles architectures dans les modes, à mesure qu'elles apparaissent.

« Un bon logiciel d'IA vieillit moins vite que le matériel. Commander Flow en est l'illustration. »

Points d'attention

Le passage entre les modes nécessite un chargement. D'un mode lourd à un mode léger — quasi instantané. À l'inverse — quelques secondes de chargement depuis le disque. Opération rare, mais si vous voulez « tester rapidement un autre mode », patientez.

Place sur le disque. Tous les composants des modes prennent ensemble une bonne portion du disque. On peut nettoyer ceux non utilisés depuis les paramètres, mais au premier « regardons ce qu'il y a », l'espace surprend.

Le mode le plus puissant exige du matériel correct. Sur un très vieux portable, le mode prompt-engineering est lent. Si le matériel est faible, il faudra se contenter de Smart ou en dessous.

Pour qui c'est utile

La majorité des utilisateurs n'iront jamais changer de mode. Ils installeront Commander Flow, verront que « Smart » fonctionne très bien — et seront contents.

Mais pour ceux qui veulent creuser, il y a de quoi creuser, et ça en vaut la peine. J'ai assemblé ma config, je bascule entre les modes selon le contexte — et ça me donne la sensation d'un vrai produit mature.

Je continue à bosser en Smart. Et j'écris l'article suivant.