隨著人工智慧的快速發展，開發人員和組織正在尋求能夠在日常硬體上運行的強大而高效的模型。 傑瑪 3n是 Google DeepMind Gemma 系列的最新開源模型，專為低佔用空間的裝置端推理而設計，是行動、邊緣和嵌入式應用的理想之選。在本深入指南中，我們將探討 Gemma 3n 是什麼、它為何脫穎而出，以及——最重要的是——如何訪問並立即開始使用它.
Gemma 3n 是什麼？
Gemma 3n 是 Google 開放式 Gemma AI 模型系列的最新成員，專為資源受限的環境而設計。與前代產品不同，Gemma 3n 整合了一個擁有 4 億個活躍參數的「主」模型和一個整合的 2 億個參數的子模型，無需在單獨的檢查點之間切換即可實現動態的品質與延遲權衡。這種被稱為「多合一」的雙尺度架構利用了每層嵌入 (PLE)、鍵值快取 (KVC) 共享和高級激活量化等創新技術，以減少記憶體佔用並加速設備端推理。
Gemma 3n 與其他 Gemma 變異體有何不同？
二合一彈性： Gemma 3n 的嵌套子模型允許開發人員在高品質 4 B 參數模型和更快的 2 B 參數版本之間無縫調整，而無需載入單獨的二進位檔案。
提高效率： 透過 PLE 快取和 KVC 共享等技術，Gemma 3n 在行動裝置上的回應時間比 Gemma 1.5 3 B 提高了約 4 倍，同時保持或提高了輸出品質。