Zen4 Coder : 480B paramètres, 92% d'actifs en moins — le modèle de code MoE

Les modèles denses gaspillent 90% de leurs paramètres sur chaque token. Pour le code, où le savoir est très structuré entre syntaxe, sémantique, systèmes de types et langue naturelle, ce gaspillage est particulièrement net.

Aujourd'hui nous lançons Zen4 Coder, un modèle Mixture of Experts de 480 milliards de paramètres qui n'active que 35B paramètres à chaque passage avant. Il sait autant qu'un modèle de 480B. Il coûte autant qu'un modèle de 35B.

Trois modèles, tous les flux de code

Zen4 Coder — Le modèle de code généraliste.

• 480B au total / 35B actifs (MoE)
• Fenêtre de contexte de 163K
• Tous les grands langages de programmation
• Usage agentique d'outils et raisonnement en plusieurs étapes

Zen4 Coder Pro — Précision maximale.

• 480B paramètres, précision BF16 complète (dense)
• Fenêtre de contexte de 131K
• Pour le refactoring multi-fichiers et la navigation dans de grandes bases de code
• Quand il vous faut la meilleure réponse, pas la plus rapide

Zen4 Coder Flash — Assistance au code en temps réel.

• 30B au total / 3B actifs (MoE)
• Fenêtre de contexte de 262K
• Complétions en ligne, tab-complete et chat de code
• Latence Sub-100ms pour les flux interactifs

Pourquoi l'architecture MoE compte pour le code

L'architecture Mixture of Distilled Experts (MoDE) route chaque token vers des sous-réseaux experts spécialisés. Dans Zen4 Coder, cela crée des voies dédiées pour :

• Experts en syntaxe — Grammaire et structure propres à chaque langage
• Experts sémantiques — Sens, intention et logique du programme
• Experts en inférence de types — Systèmes de types, génériques et contraintes
• Experts en documentation — Langue naturelle dans les commentaires, les docstrings et les explications

Quand vous générez du Python, les experts de syntaxe Python s'activent avec les experts de raisonnement sémantique. Les experts du système de types Java restent en sommeil. Cette activation sélective est ce qui fait tourner un modèle de 480B comme un modèle de 35B.

Des fenêtres de contexte pour de vraies bases de code

La fenêtre de 163K de Zen4 Coder contient :

• Une base de code de microservice typique (50-100 fichiers)
• Un module Go entier ou un crate Rust
• Une application React complète, avec composants, hooks et gestion d'état

La fenêtre de 262K de Coder Flash tient des charges encore plus grandes pour la recherche et la navigation dans le code.

La fenêtre de 131K de Coder Pro est réglée pour l'analyse profonde : elle échange de la longueur de contexte contre la précision maximale sur les tâches de raisonnement complexes.

Disponible maintenant

Les trois modèles Zen4 Coder sont disponibles via la passerelle Hanzo AI sur hanzo.ai. Utilisez l'API standard compatible OpenAI :

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

La même API, la même clé, la même facturation que tous les autres modèles de la plateforme.