Zen4 Coder: 480B Parameter, 92% weniger aktiv — das MoE-Code-Modell

Dichte Modelle verschwenden 90% ihrer Parameter bei jedem Token. Beim Code, wo das Wissen hoch strukturiert über Syntax, Semantik, Typsysteme und natürliche Sprache verteilt ist, ist diese Verschwendung besonders scharf.

Heute starten wir Zen4 Coder, ein Mixture-of-Experts-Modell mit 480 Milliarden Parametern, das pro Vorwärtslauf nur 35B Parameter aktiviert. Es weiß so viel wie ein 480B-Modell. Es kostet so viel wie ein 35B-Modell.

Drei Modelle, jeder Code-Workflow

Zen4 Coder — Das allgemeine Code-Modell.

• 480B gesamt / 35B aktiv (MoE)
• Kontextfenster von 163K
• Alle großen Programmiersprachen
• Agentischer Werkzeugeinsatz und mehrstufiges Schließen

Zen4 Coder Pro — Maximale Genauigkeit.

• 480B Parameter, volle BF16-Präzision (dicht)
• Kontextfenster von 131K
• Für komplexes Refactoring über viele Dateien und die Navigation in großen Codebasen
• Wenn Sie die beste Antwort brauchen, nicht die schnellste

Zen4 Coder Flash — Code-Hilfe in Echtzeit.

• 30B gesamt / 3B aktiv (MoE)
• Kontextfenster von 262K
• Inline-Vervollständigungen, tab-complete und Code-Chat
• Latenz Sub-100ms für interaktive Abläufe

Warum die MoE-Architektur für Code zählt

Die Architektur Mixture of Distilled Experts (MoDE) leitet jedes Token an spezialisierte Experten-Teilnetze. In Zen4 Coder entstehen daraus eigene Wege für:

• Syntax-Experten — Sprachspezifische Grammatik und Struktur
• Semantik-Experten — Bedeutung, Absicht und Programmlogik
• Typinferenz-Experten — Typsysteme, Generics und Einschränkungen
• Dokumentations-Experten — Natürliche Sprache in Kommentaren, Docstrings und Erklärungen

Wenn Sie Python erzeugen, werden die Python-Syntax-Experten zusammen mit den semantischen Schluss-Experten aktiv. Die Experten für das Java-Typsystem bleiben still. Diese selektive Aktivierung lässt ein 480B-Modell wie ein 35B-Modell laufen.

Kontextfenster für echte Codebasen

In das 163K-Fenster von Zen4 Coder passt:

• Eine typische Microservice-Codebasis (50-100 Dateien)
• Ein ganzes Go-Modul oder ein Rust-Crate
• Eine vollständige React-Anwendung mit Komponenten, Hooks und Zustandsverwaltung

Das 262K-Fenster von Coder Flash trägt noch größere Lasten für Codesuche und Navigation.

Das 131K-Fenster von Coder Pro ist auf tiefe Analyse ausgelegt: Es tauscht Kontextlänge gegen maximale Genauigkeit bei komplexen Schlussaufgaben.

Jetzt verfügbar

Alle drei Zen4-Coder-Modelle sind über das Hanzo AI Gateway unter hanzo.ai verfügbar. Nutzen Sie die übliche, mit OpenAI kompatible API:

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

Dieselbe API, derselbe Schlüssel, dieselbe Abrechnung wie bei jedem anderen Modell der Plattform.