加入 Hanzo 測試,任何付費方案享 50% 折扣

現已上線可供使用:面向裝置端的多模態人工智慧,Google Gemma 3n 與史上最小的 Gemma 3 270M

Google 的 Gemma 3n(裝置端多模態)與 Gemma 3 270M(史上最小的 Gemma)現已在 Hanzo AI 閘道提供。兩者都適合在手機和邊緣裝置上執行。

本頁內容

Google DeepMind 的 Gemma 家族中的兩個新模型已在 Hanzo AI 閘道上線。

Gemma 3n — 面向手機與邊緣的多模態 AI

2 月 11 日以開發者預覽發布。Gemma 3n 是 Google 首個原生為裝置端部署設計的模型。它採用 MatFormer 架構與 Per-Layer Embeddings,把記憶體占用做得非常小:

  • E2B — 總計 5B 參數,有效 2B,裝進 2 GB RAM
  • E4B — 總計 8B 參數,有效 4B,裝進 3 GB RAM
  • 多模態 — 文字、影像、音訊與影片輸入
  • 140 種語言 — 行動級模型裡最廣的語言支援
  • 開放權重 — Gemma Terms of Use

對於構建邊緣 AI 代理、語音助手或行動應用的團隊,Gemma 3n 提供了以往需要雲端推論的多模態能力。

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{"model": "google/gemma-3n-e4b-it", "messages": [{"role": "user", "content": "..."}]}'

Gemma 3 270M — 最小的 Gemma

同樣於 2 月 11 日發布。Gemma 3 270M 是 270M 參數的純文字模型,為受限裝置上的任務專用微調而優化。它是 Gemma 家族裡最省電的模型——INT4-quantized 版本在 Pixel 9 Pro 上進行 25 次對話僅用 0.75% 電量。權重可在 Hugging Face 取得,用於本機部署。

100+ 模型,一個 API

Gemma 3n 加入 Hanzo AI 閘道不斷增長的目錄。同一端點、同一 API 金鑰、同一計費——無論你跑的是小型裝置端模型,還是雲端的 744B 模型。

在 hanzo.ai 瀏覽完整目錄。

留言

使用 Hanzo ID 登入後即可留言。

正在載入留言…

繼續閱讀