Zen4 Coder: 480B parametre, 92% daha az aktif — MoE kod modeli

Yoğun modeller her tokende parametrelerinin 90% kadarını boşa harcar. Bilginin sözdizimi, anlam, tür sistemleri ve doğal dil arasında sıkı durduğu kodda bu israf daha da keskindir.

Bugün Zen4 Coder'ı çıkarıyoruz: her ileri geçişte yalnızca 35B parametre çalıştıran, 480 milyar parametreli bir Mixture of Experts modeli. 480B bir model kadar bilir. 35B bir model kadar tutar.

Üç model, her kod akışı

Zen4 Coder — Genel amaçlı kod modeli.

• Toplam 480B / aktif 35B (MoE)
• 163K bağlam penceresi
• Başlıca programlama dillerinin tümü
• Ajanlı araç kullanımı ve çok adımlı akıl yürütme

Zen4 Coder Pro — En yüksek doğruluk.

• 480B parametre, tam BF16 kesinlik (yoğun)
• 131K bağlam penceresi
• Karmaşık çok dosyalı yeniden düzenleme ve büyük kod tabanında gezinme için
• En hızlı yanıt değil, en iyi yanıt gerektiğinde

Zen4 Coder Flash — Gerçek zamanlı kod yardımı.

• Toplam 30B / aktif 3B (MoE)
• 262K bağlam penceresi
• Satır içi tamamlama, tab-complete ve kod sohbeti
• Etkileşimli akışlar için Sub-100ms gecikme

MoE mimarisi kod için neden önemli

Mixture of Distilled Experts (MoDE) mimarisi her tokeni uzman alt ağlara yönlendirir. Zen4 Coder'da bu, şunlar için ayrı yollar açar:

• Sözdizimi uzmanları — Dile özgü dilbilgisi ve yapı
• Anlam uzmanları — Anlam, niyet ve program mantığı
• Tür çıkarımı uzmanları — Tür sistemleri, geneller ve kısıtlar
• Belgeleme uzmanları — Yorumlarda, docstring'lerde ve açıklamalarda doğal dil

Python üretirken Python sözdizimi uzmanları, anlamsal akıl yürütme uzmanlarıyla birlikte açılır. Java tür sistemi uzmanları uyur. Seçici etkinleştirme, 480B bir modeli 35B bir model gibi çalıştıran şeydir.

Gerçek kod tabanları için bağlam pencereleri

Zen4 Coder'ın 163K penceresine şunlar sığar:

• Tipik bir mikro hizmet kod tabanı (50-100 dosya)
• Tam bir Go modülü ya da bir Rust crate
• Bileşenler, hook'lar ve durum yönetimiyle tam bir React uygulaması

Coder Flash'in 262K penceresi, kod arama ve gezinme için daha da büyük yükleri taşır.

Coder Pro'nun 131K penceresi derin çözümleme için ayarlıdır: karmaşık akıl yürütme görevlerinde bağlam uzunluğunu en yüksek doğrulukla değiştirir.

Şimdi kullanılabilir

Üç Zen4 Coder modeli de hanzo.ai adresindeki Hanzo AI geçidinden kullanılabilir. Standart, OpenAI ile uyumlu API'yi kullanın:

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

Aynı API, aynı anahtar, platformdaki diğer her modelle aynı faturalama.