Ejecutar modelos de inteligencia artificial en un Mac permite reducir el consumo de servicios de pago como Claude Code y reservar las suscripciones más caras para los trabajos de programación que realmente necesitan modelos avanzados. Una guía publicada por Anubhav el 6 de octubre de 2026 propone una configuración con tres modelos locales de Qwen, cada uno especializado en una tarea distinta: trabajar como agente de programación, responder consultas de código y completar automáticamente líneas en el editor.
Las claves de los modelos locales para programar en 20 segundos
- La propuesta combina Qwen 3.6 de 35.000 millones de parámetros, Qwen 3.8 de 27.000 millones y Qwen2.5-Coder.
- Cada modelo tiene una función: agente, asistencia de programación y autocompletado.
- Un Mac con 48 GB de memoria unificada puede ejecutar la configuración completa.
- Con 24 GB hay que reducir el tamaño de los modelos y mantener las tareas complejas en la nube.
- Claude Code sigue siendo útil para cambios grandes y problemas que requieren una cadena larga de decisiones.
La idea parte de una experiencia concreta: reducir la suscripción Claude Max de 200 dólares mensuales a Claude Pro, de 20 dólares, y trasladar buena parte del trabajo cotidiano a modelos abiertos ejecutados localmente. El objetivo no es eliminar por completo los servicios comerciales, sino utilizarlos cuando aporten una ventaja clara.
La propuesta tiene interés para desarrolladores que utilizan asistentes de programación durante buena parte de su jornada y quieren controlar mejor el gasto en inteligencia artificial. También plantea una cuestión técnica importante: no todas las tareas de programación necesitan el mismo modelo ni la misma cantidad de memoria.
Tres modelos para tres trabajos diferentes
La configuración separa el trabajo de programación asistida en tres funciones. El agente necesita interpretar instrucciones largas y mantener el contexto durante muchos intercambios; el asistente de código debe ofrecer respuestas precisas a preguntas concretas; y el autocompletado necesita reaccionar casi instantáneamente mientras se escribe.
Qwen 3.6 de 35B como agente de programación
El primer modelo es Qwen-3.6-35B-A3B, una arquitectura de mezcla de expertos (Mixture of Experts, MoE). Aunque contiene 35.000 millones de parámetros, activa aproximadamente 3.000 millones para cada token.
Esta característica resulta interesante para los agentes de programación porque buena parte de su trabajo consiste en leer. Claude Code, por ejemplo, envía instrucciones, descripciones de herramientas, contenidos de archivos y resultados de comandos. El contexto puede crecer hasta decenas de miles de tokens antes de que el modelo tenga que producir una respuesta.
En las pruebas descritas por el autor, Qwen 3.6 procesó un prompt de 11.000 tokens en unos 11 segundos y generó texto a aproximadamente 80 tokens por segundo en un Mac M5 Pro con 48 GB de memoria. La comparación utilizada fue Qwen 3.8 de 27B, un modelo denso que tardó 27 segundos en leer el mismo prompt y generó unos 34 tokens por segundo.
La diferencia está relacionada con la arquitectura: en el modelo denso participan todos los parámetros en cada token, mientras que el MoE activa solo una parte de ellos.
Las mediciones deben interpretarse como resultados de una configuración concreta, no como velocidades garantizadas para cualquier Mac. El propio artículo señala que las versiones de Ollama utilizadas corresponden a lanzamientos de junio y agosto, y que una actualización de septiembre mejoró la velocidad de lectura de Qwen 3.8 en Apple Silicon.
Para utilizar el modelo con Claude Code, la guía propone Ollama y su API compatible con Anthropic. El comando indicado es:
ollama launch claude --model qwen3.6:35b-a3b-mtp-q4_K_MLa versión importa: el autor especifica que las pruebas de velocidad se realizaron con la compilación que incorpora una cabeza MTP (Multi-Token Prediction), capaz de anticipar varios tokens. No debe confundirse con la etiqueta estándar qwen3.6:35b-a3b.
También hay que prestar atención al tamaño de contexto. Ollama establece valores predeterminados según la memoria disponible y, en el Mac de 48 GB de la prueba, la configuración inicial era de 32K tokens. La guía de Claude Code recomienda 64K o más.
Si el contexto se queda corto, Ollama puede descartar los mensajes más antiguos para mantener la conversación dentro del límite. Esto puede provocar que el agente pierda instrucciones o información relevante de la tarea. Por eso, el artículo recomienda elevar el contexto a 65.536 tokens desde los ajustes de Ollama o iniciar el servidor con esta variable:
OLLAMA_CONTEXT_LENGTH=65536 ollama serveQwen 3.8 de 27B para escribir y entender código
El segundo modelo es Qwen-3.8-27B, una arquitectura densa que el autor reserva para las consultas de programación más concretas: explicar una función, escribir código o resolver un problema localizado.
En estas tareas los prompts suelen ser mucho más cortos, por lo que la velocidad de lectura pierde importancia frente a la calidad de la respuesta.
Según las pruebas citadas, Qwen 3.8 mejora las capacidades de programación respecto a la versión anterior Qwen 3.6 de 27B. Su velocidad de generación en la configuración utilizada ronda los 34 tokens por segundo. Una respuesta de 500 tokens puede tardar unos 15 segundos, sin contar el tiempo adicional de lectura del prompt.
La guía propone mantener Qwen 3.6 como agente de Claude Code y utilizar Qwen 3.8 desde el panel de conversación del editor, con la compilación qwen3.8:27b-mlx.
Ollama puede cargar el modelo solicitado desde el almacenamiento y descargar otro que esté inactivo si la memoria disponible resulta insuficiente. En la prueba mencionada, el archivo de unos 18 GB se cargó en menos de dos segundos.
Hay una limitación importante: el autor recomienda no utilizar todavía Qwen 3.8 dentro de Claude Code. Una incidencia abierta en Ollama provoca el error no user query found in messages cuando una sesión larga se recorta para ajustarse al contexto. Según el artículo, la corrección todavía no se había incorporado.
Como alternativa para acelerar la generación, se menciona Splash, un motor experimental que puede ejecutarse mediante LM Studio Bionic. Su fabricante comunica hasta 74 tokens por segundo en un M5 Pro de 48 GB con determinadas pruebas de programación. Esa cifra es una medición del proveedor, no un resultado independiente comparable directamente con todos los demás datos.
Qwen2.5-Coder para el autocompletado
La tercera pieza es Qwen2.5-Coder, un modelo más pequeño y especializado en completar código.
El autocompletado funciona de forma distinta a un chat. El editor envía el código situado antes y después del cursor y el modelo debe generar el fragmento que falta. Por eso, los modelos conversacionales tradicionales no siempre ofrecen buenos resultados en esta tarea.
La guía recomienda la versión base de Qwen2.5-Coder, no la variante Instruct. También distingue entre dos tamaños:
- 1,5B: ocupa aproximadamente 1 GB y resulta suficiente para sugerencias rápidas.
- 7B: requiere unos 5 GB y puede ofrecer completados más largos y útiles.
Para utilizar el modelo de 7B con Visual Studio Code y Continue, el artículo incluye esta configuración:
name: Local autocomplete
version: 0.0.1
schema: v1
models:
- name: Qwen2.5-Coder 7B
provider: ollama
model: qwen2.5-coder:7b-base
roles:
- autocompleteOllama mantiene los modelos cargados durante cinco minutos después de la última petición. Como el editor solicita sugerencias cada vez que el usuario deja de escribir, el modelo suele permanecer disponible mientras se programa.
Hay un inconveniente: el autocompletado comparte el ancho de banda de memoria del Mac con los modelos grandes. Si el agente está generando una respuesta extensa, las sugerencias pueden perder velocidad.
Qué Mac necesita cada configuración
La memoria unificada es el principal condicionante para ejecutar los tres modelos al mismo tiempo. El artículo compara los Mac M5 Pro con 24 GB, 48 GB y 64 GB, teniendo en cuenta que macOS y las aplicaciones también necesitan memoria.
Distribución orientativa según la configuración descrita en el artículo, no una prueba independiente de todos los equipos.
| Memoria del Mac | Configuración propuesta |
|---|---|
| 24 GB | Qwen 3.8 de 27B cuantizado a 3 bits y autocompletado. El agente complejo permanece en Claude Pro. |
| 48 GB | Los tres modelos locales, con Qwen 3.6 como agente y 64K de contexto. |
| 64 GB | La misma configuración con más margen para contexto y otras aplicaciones. |
Con 24 GB, el agente de 35B no encaja en la configuración recomendada. Una versión cuantizada a 3 bits podría entrar, pero el autor advierte de que reducir tanto el tamaño puede perjudicar la precisión. En un agente que toma decisiones sucesivas, un error puede condicionar los pasos posteriores.
La alternativa consiste en mantener el agente en Claude Code mediante la suscripción de pago y ejecutar localmente Qwen 3.8 de 27B cuantizado a 3 bits para las consultas de código, junto con el autocompletado. La guía también recomienda elevar el contexto predeterminado de Ollama, que en esta configuración sería de solo 4K tokens, hasta 32K.
Con 48 GB aparece la posibilidad de ejecutar toda la configuración. El autor calcula que Qwen 3.6 con 64K de contexto y el modelo de autocompletado de 7B necesitan conjuntamente unos 31 GB. Al cambiar al modelo de programación, el consumo baja.
En un equipo de 64 GB se gana margen para mantener contextos más largos y utilizar otras aplicaciones. Sin embargo, la capacidad adicional no implica que los modelos generen texto más rápido. Según el artículo, los Mac M5 Pro comparten un ancho de banda de memoria de 307 GB/s, por lo que la velocidad depende también de otros elementos de la configuración.
El autor señala que los 64 GB requieren elegir la GPU de 20 núcleos, aunque también es posible configurar un equipo de 48 GB con esa misma GPU. Para esta combinación concreta, su recomendación es un M5 Pro con 48 GB y GPU de 20 núcleos.
Claude Pro sigue teniendo sitio para los trabajos difíciles
La propuesta no plantea que los modelos locales puedan sustituir a los modelos comerciales en cualquier escenario. El autor reserva Claude Code para cambios que afectan a muchos archivos, errores cuya causa está repartida entre varios módulos y tareas que requieren mantener una cadena larga de decisiones correctas.
Los modelos locales resultan más adecuados para trabajos acotados: escribir una función, preparar una prueba, corregir un error localizado o explicar un fragmento de código. Cuando el agente empieza a repetir pasos sin avanzar o la modificación se extiende por buena parte del proyecto, tiene sentido trasladar la tarea a Claude.
La ventaja económica está en reducir el número de peticiones que consumen la cuota del servicio de Anthropic. El artículo recuerda que Claude Pro, de 20 dólares mensuales, tiene límites de uso por ventanas de cinco horas y un límite semanal. También menciona el plan Max de 100 dólares, que ofrece cinco veces el uso de Pro, como alternativa intermedia antes de volver al plan Max de 200 dólares.
La transición entre modelos no exige cambiar de herramienta. La guía utiliza ollama launch claude para iniciar Claude Code con el modelo local y claude para utilizar la cuenta de Anthropic. Los comandos, los ajustes del proyecto y el archivo CLAUDE.md se mantienen.
La configuración requiere, eso sí, aceptar algunas limitaciones: gestionar el contexto, vigilar la memoria, seleccionar las cuantizaciones adecuadas y convivir con posibles errores de compatibilidad. También hay que recordar que las velocidades publicadas corresponden a pruebas concretas y que el rendimiento real depende del modelo, su compilación, el motor de inferencia y el tamaño de las peticiones.
La idea de fondo es sencilla: utilizar modelos locales para las tareas repetitivas y previsibles, y reservar la nube para los problemas que necesitan más capacidad de razonamiento. Para desarrolladores con un Mac de 48 GB, el artículo presenta una configuración que permite mantener buena parte del trabajo dentro del propio equipo sin renunciar por completo a Claude Code.
Preguntas frecuentes
¿Se puede utilizar Claude Code con modelos locales?
Sí. La guía utiliza Ollama para ofrecer una API compatible con Anthropic y conectar Claude Code con Qwen 3.6 de 35B.
¿Cuánta memoria necesita un Mac para ejecutar los tres modelos?
La configuración completa se plantea para un Mac con 48 GB de memoria unificada. Con 24 GB hay que reducir el tamaño de los modelos y mantener las tareas de agente más exigentes en la nube.
¿Qué modelo local es mejor para programar?
La propuesta utiliza Qwen 3.6 de 35B como agente, Qwen 3.8 de 27B para consultas de programación y Qwen2.5-Coder de 7B para autocompletado. Cada uno está destinado a una función diferente.
¿Puede un Mac sustituir completamente a Claude Pro o Max?
No en todos los trabajos. Los modelos locales pueden cubrir tareas acotadas, pero la guía recomienda conservar Claude para cambios grandes, errores complejos y sesiones que requieren una cadena larga de decisiones.
