LLM locales: comparación de modos de pulido de texto

Una de las cosas que adoro de Commander Flow es que no me encierra en una configuración. En la bandeja, con un clic, eliges el modo según la tarea: desde un pulido ligero a batería hasta el más potente para trabajo serio con texto seleccionado. Es raro en aplicaciones de IA de consumo.

Como soy un usuario curioso, durante abril probé todos los modos en mis tareas reales. Te cuento cuál uso cuándo.

Qué modos hay

En la bandeja hay seis. Sin cifras de RAM ni detalles técnicos: simplemente seis puntos en la escala «cuánto procesar el texto». De «no tocar nada» (solo dictado) a «pasarlo por el modelo más grande y obtener un resultado denso».

Probé cada uno en mis tareas reales. Te comparto qué va bien para qué.

Test 1: pulido del dictado normal

Dicté decenas de fragmentos «en habla viva», con muletillas, despistes y cambios de idea a media frase. Miré subjetivamente: con qué naturalidad limpiaba el modo las muletillas, colocaba la puntuación y conservaba mi entonación.

• Ligero: se maneja con todo lo que digo rápido y por costumbre. A veces deja una coma de más.
• Medio: salto notable en «humanidad» del pulido. Buen punto medio para portátil sin GPU.
• Inteligente: el mejor equilibrio. El texto suena como si lo hubiera escrito con calma.
• Pulido reforzado: no es el modo más «profundo», pero sí el más responsivo. Buena opción cuando dictas muchos mensajes pequeños.

Conclusión simple: para el dictado del día a día, lo mejor es «Inteligente» si tu hardware tira con él. En portátiles más justos, «Medio» y «Ligero» rinden bien.

Test 2: comando de voz sobre texto seleccionado en español → traducción + reescritura de estilo

Es el escenario más exigente: dicto en español, selecciono mi texto y por voz pido «tradúcelo al alemán, en estilo formal». El modo tiene que traducir y reescribir en el estilo, conservando los datos.

• Ligero, Medio: bien con frases cortas. En las largas a veces pierden el modismo.
• Inteligente: aguanta de forma estable el business-style en varios idiomas. Mi elección para correos.
• Modo de prompting: el mejor con comandos de voz complejos como «traduce en estilo formal, tratamiento a una mujer, añade un párrafo final pidiendo confirmación». Cuando la instrucción tiene varias capas, paso aquí.

Test 3: texto seleccionado largo (documentación de ~1700 palabras)

Aquí se prueba la capacidad del modelo para mantener el contexto. Seleccioné un trozo grande de documentación y pedí por voz «hazme un resumen en cinco puntos, destaca cifras».

• Ligero: cumple, pero a veces se le escapa un matiz en los párrafos «lejanos».
• Medio: nada se le escapa de forma estable.
• Inteligente: el que mejor mantiene la jerarquía de lo importante.
• Modo de prompting: en selecciones muy grandes saca lo que los modos más ligeros ignoran. Conviene activarlo cuando el resumen es crítico.

Test 4: comandos de voz sobre código y comentarios técnicos

En este escenario soy muy exigente. Quiero que los términos técnicos no se reescriban: kubectl sigue siendo kubectl y no «Kubernetes», etc.

Todos los modos lo gestionan bien: por dentro Commander Flow usa el diccionario de términos de los ajustes y cualquier modelo lo respeta. En «Inteligente» y en «Modo de prompting» el pulido de comentarios sale más limpio y cuidadoso, sobre todo cuando el comentario es mixto (español + identificadores en latín).

Es un punto arquitectónico importante: Commander Flow no es un envoltorio sobre un modelo local; es una capa de control de estilo y terminología sobre él. Por eso incluso el modo más ligero da un resultado bastante mejor que el modelo local «pelado».

Lo que acabé eligiendo

Por defecto: Inteligente. La mejor calidad por una RAM razonable. Cubre la mayoría de tareas: dictado, correos, chats, comandos de voz básicos sobre el texto seleccionado.

Cambio a Modo de prompting: cuando hace falta un comando complejo y multifase sobre el texto seleccionado, resúmenes largos, estilística fina. Ahí trabaja el modelo más grande.

Cambio a Ligero: cuando voy de viaje a batería. Consume menos energía, calidad básica, pero un correo a mi madre se pule de sobra.

Pulido reforzado: mi opción cuando estoy sentado dictando muchos mensajes cortos a chats. Responsivo y de calidad.

Apagado: lo dejo para casos extremos, cuando hace falta speech-to-text en crudo sin procesado (un volcado de ideas a un archivo, por ejemplo).

Lo que cambia en el producto

Poder cambiar de modo desde la bandeja sin reiniciar la aplicación es una libertad enorme. Adapto la herramienta a la tarea actual con literalmente dos clics.

Commander Flow está hecho contando con que los modelos locales se actualizan constantemente, y que el usuario no debe quedarse atado a lo que era nuevo el día que lo compró. El equipo va metiendo arquitecturas nuevas en los modos a medida que aparecen.

«El buen software de IA envejece más despacio que el hardware. Commander Flow es ese caso.»

Lo que conviene mirar

Cambiar de modo requiere carga. De pesado a ligero, casi instantáneo. Al revés, un par de segundos cargando desde disco. Es una operación rara, pero si quieres «probar otro al vuelo», ten paciencia.

Tamaño en disco. Todos los componentes juntos ocupan un espacio considerable. Puedes purgar los no usados desde los ajustes, pero la primera ronda «vamos a ver qué hay» sorprende.

El modo más potente exige hardware decente. En un portátil muy antiguo, el Modo de prompting va lento. Con hardware modesto, te quedas en Inteligente o por debajo.

Para quién es esto

La mayoría de usuarios nunca tocará los modos. Instalan Commander Flow, ven que «Inteligente» va de maravilla y son felices.

Pero para quien quiera escarbar, aquí hay dónde escarbar, y compensa. Yo armé mi configuración, alterno modos según el contexto, y se nota un trabajo de producto muy maduro.

Vuelvo al modo Inteligente y a escribir el siguiente artículo.