Zen4 Coder: 480B parámetros, un 92% menos activos — el modelo de código MoE

Los modelos densos desperdician el 90% de sus parámetros en cada token. En el código, donde el conocimiento está muy estructurado entre sintaxis, semántica, sistemas de tipos y lenguaje natural, ese desperdicio se nota todavía más.

Hoy lanzamos Zen4 Coder, un modelo Mixture of Experts de 480 mil millones de parámetros que activa solo 35B parámetros en cada pasada hacia delante. Sabe tanto como un modelo de 480B. Cuesta como un modelo de 35B.

Tres modelos, todos los flujos de código

Zen4 Coder — El modelo de código de propósito general.

• 480B en total / 35B activos (MoE)
• Ventana de contexto de 163K
• Todos los lenguajes de programación principales
• Uso agéntico de herramientas y razonamiento en varios pasos

Zen4 Coder Pro — Máxima precisión.

• 480B parámetros, precisión BF16 completa (denso)
• Ventana de contexto de 131K
• Para refactorizar varios ficheros y navegar bases de código grandes
• Cuando necesitáis la mejor respuesta, no la más rápida

Zen4 Coder Flash — Asistencia de código en tiempo real.

• 30B en total / 3B activos (MoE)
• Ventana de contexto de 262K
• Completados en línea, tab-complete y chat de código
• Latencia Sub-100ms para flujos interactivos

Por qué la arquitectura MoE importa en el código

La arquitectura Mixture of Distilled Experts (MoDE) encamina cada token hacia subredes expertas especializadas. En Zen4 Coder eso crea vías dedicadas para:

• Expertos en sintaxis — Gramática y estructura propias de cada lenguaje
• Expertos semánticos — Significado, intención y lógica del programa
• Expertos en inferencia de tipos — Sistemas de tipos, genéricos y restricciones
• Expertos en documentación — Lenguaje natural en comentarios, docstrings y explicaciones

Cuando generáis Python, los expertos de sintaxis de Python se activan junto a los expertos de razonamiento semántico. Los expertos del sistema de tipos de Java permanecen en reposo. Esa activación selectiva es lo que hace que un modelo de 480B corra como un modelo de 35B.

Ventanas de contexto hechas para bases de código reales

La ventana de 163K de Zen4 Coder cabe:

• Una base de código de microservicio típica (50-100 ficheros)
• Un módulo Go entero o un crate de Rust
• Una aplicación React completa, con componentes, hooks y gestión de estado

La ventana de 262K de Coder Flash aguanta cargas aún mayores de búsqueda y navegación de código.

La ventana de 131K de Coder Pro está afinada para el análisis profundo: cambia longitud de contexto por la máxima precisión en tareas de razonamiento complejo.

Ya disponible

Los tres modelos Zen4 Coder están disponibles en la pasarela de Hanzo AI en hanzo.ai. Usad la API estándar compatible con OpenAI:

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

La misma API, la misma clave y la misma facturación que cualquier otro modelo de la plataforma.