Jetzt verfügbar: Google Gemma 3n und Gemma 3 270M — KI auf dem Gerät wird multimodal

Zwei neue Modelle aus der Gemma-Familie von Google DeepMind sind auf dem Hanzo AI Gateway live.

Gemma 3n — multimodale KI für das Telefon und die Edge

Am 11. Februar als Entwicklervorschau veröffentlicht. Gemma 3n ist Googles erstes Modell, das nativ für den Betrieb auf dem Gerät entworfen ist. Es nutzt eine MatFormer-Architektur mit Per-Layer Embeddings und kommt so auf einen bemerkenswert kleinen Speicherbedarf:

• E2B — 5B Parameter gesamt, 2B effektiv, passt in 2 GB RAM
• E4B — 8B Parameter gesamt, 4B effektiv, passt in 3 GB RAM
• Multimodal — Eingabe von Text, Bild, Audio und Video
• 140 Sprachen — die breiteste Sprachabdeckung in einem Modell der Mobilklasse
• Offene Gewichte — Gemma Terms of Use

Für Teams, die Edge-KI-Agenten, Sprachassistenten oder mobile Anwendungen bauen, liefert Gemma 3n multimodale Fähigkeiten, die zuvor Cloud-Inferenz brauchten.

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{"model": "google/gemma-3n-e4b-it", "messages": [{"role": "user", "content": "..."}]}'

Gemma 3 270M — die kleinste Gemma

Ebenfalls am 11. Februar veröffentlicht. Gemma 3 270M ist ein reines Textmodell mit 270M Parametern, ausgelegt auf aufgabenspezifisches Feintuning auf Geräten mit engen Ressourcen. Es ist das energieeffizienteste Modell der Gemma-Familie: Eine INT4-quantized Fassung verbraucht nur 0.75% Akku für 25 Gespräche auf einem Pixel 9 Pro. Die Gewichte liegen auf Hugging Face für die lokale Bereitstellung.

Über 100 Modelle, eine API

Gemma 3n stößt zum wachsenden Katalog des Hanzo AI Gateway. Derselbe Endpunkt, derselbe API-Schlüssel, dieselbe Abrechnung, ob ein kleines Modell auf dem Gerät läuft oder ein 744B-Modell in der Cloud.

Den vollständigen Katalog gibt es auf hanzo.ai.