Google's Gemma 3 270M: Bringing Powerful AI to Your Pocket Without Draining Your Battery

Google 的 Gemma 3 270M:將強大 AI 裝進口袋,電池續航力不打折

Google 的 DeepMind 發布了 Gemma 3 270M,這是一個專為智慧型手機和資源受限裝置設計的緊湊型 AI 模型。僅擁有 2.7 億個參數,卻能在消耗最少能源的同時提供令人印象深刻的效能。該模型可以直接在網頁瀏覽器、Raspberry Pi 裝置上執行,甚至能在離線應用程式中使用。儘管體積小巧,Gemma 3 270M 在指令遵循任務上表現出色,並能針對特定使用案例快速微調。它特別適合情感分析、實體提取和創意寫作等任務。在靈活的條款下發布,開發者可以自由使用、修改和分發該模型,讓先進的 AI 功能在各種裝置和應用程式中更容易取得。

Google 的 DeepMind AI 研究團隊發布了 Gemma 3 270M,這是一個超小型、高能效的開源 AI 模型,專為直接在智慧型手機和其他資源受限裝置上執行而設計。這個新模型代表了 AI 領域的重大轉變,過去業界傳統上專注於創造擁有數十億參數的超大型語言模型。相反地,Google 打造了一個緊湊的強力引擎,在消耗最少資源的同時提供令人印象深刻的效能,讓精密的 AI 功能能夠在裝置端應用中使用,而無需雲端連線。

如其名稱所示,Gemma 3 270M 僅包含 2.7 億個參數——相較於像 GPT-4 或 Google 自家的 Gemini 模型 等先進模型,這只是其中的一小部分,後者通常包含數百億甚至千億個參數。該模型結合了 1.7 億個嵌入參數和 1 億個 transformer 區塊參數。其架構運用了包含 25.6 萬個詞彙的大型詞彙表,能夠處理罕見和特定的 token,讓模型在開箱即用的指令遵循任務上表現出色,同時保持足夠小的體積,便於在運算資源有限的裝置上快速微調和部署。

Gemma 3 270M 最令人矚目的特點之一是其卓越的能源效率。在使用 Pixel 9 Pro 智慧型手機搭載 Google Tensor G4 晶片進行的內部測試中,INT4 量化版本的模型在處理 25 次對話交換時僅消耗裝置 0.75% 的電池電量。這種效率水準讓 Gemma 3 270M 成為將 AI 功能整合到行動應用程式中的實用選擇,而不會顯著影響電池續航力——這對於已經為電池續航力困擾的智慧型手機使用者來說是至關重要的考量。

Gemma 3 270M 的多功能性不僅限於智慧型手機。Google DeepMind 資深 AI 開發者關係工程師 Omar Sanseviero 強調,該模型可以直接在網頁瀏覽器中執行,也能在 Raspberry Pi 裝置上執行,甚至開玩笑地表示它可以在烤麵包機上運作——這突顯了這個模型真正的輕量化和適應性。這種靈活性為開發者開啟了新的可能性,讓他們能夠將 AI 整合到各種過去因硬體限制而無法支援此類功能的裝置和應用程式中。

儘管體積小巧,Gemma 3 270M 在特定任務上仍展現出令人印象深刻的效能。在 IFEval 基準測試(用於測量模型遵循指令的能力)中,經過指令調整的 Gemma 3 270M 獲得了 51.2% 的分數。這個分數遠高於類似規模的模型,如 SmolLM2 135M Instruct 和 Qwen 2.5 0.5B Instruct,接近某些十億參數模型的效能範圍。雖然它無法匹敵更大型模型的能力,但其效能與體積的比例展現了 Google 在模型最佳化和效率方面的專業技術。

Google 透過展示使用 Gemma 3 270M 和 Transformers.js 建構的睡前故事產生器應用程式來展現該模型的能力。這個應用程式完全在網頁瀏覽器中離線執行,讓使用者能夠透過指定主角、場景、情節轉折、主題和期望長度等參數來產生客製化故事。模型接著將這些元素編織成連貫且富有想像力的敘述,展現其在創意、情境感知文字生成方面的能力,而無需依賴雲端處理。

對開發者而言,Gemma 3 270M 最重要的優勢之一是其快速微調能力。小參數量讓開發者能夠在幾分鐘內進行實驗並將模型適應特定使用案例,而不是大型模型所需的數小時或數天。Google 預期 Gemma 3 270M 在情感分析、實體提取、查詢路由、結構化文字生成、合規檢查和創意寫作等任務上非常有用——在這些領域中,經過微調的小型模型能夠提供比大型通用模型更快速、更具成本效益的結果。

Gemma 3 270M 模型在 Gemma 使用條款下發布,允許使用、複製、修改和分發,但需符合特定條件。這些條件包括遵守 Google 的 禁止使用政策、向下游接收者提供使用條款,以及清楚標示任何修改。對於企業團隊和商業開發者來說,這意味著只要遵守授權條款,模型可以嵌入產品中、作為雲端服務的一部分部署,或微調成專門的衍生版本。

Google 將 Gemma 模型稱為「開放」,這不應與開源倡議定義的傳統意義上的「開源」混淆。然而,實際影響是相似的——開發者可以免費下載模型、存取模型權重,並在沒有單獨授權協議的情況下商業使用。他們可以修改、發布和部署 Gemma 3 270M 的衍生版本到他們的工具中,但需遵守使用條款。

Gemma 3 270M 的發布符合業界對裝置端 AI 在隱私保護、延遲降低和離線功能方面重要性的日益認知。透過讓精密的 AI 功能在個人裝置上可用而無需雲端連線,Google 正在解決隱私疑慮,同時減少雲端 AI 處理的運算負擔和相關成本。

隨著 Gemmaverse 下載量超過 2 億次,Gemma 產品線目前涵蓋雲端、桌機和行動最佳化版本,Google 將 Gemma 3 270M 定位為建構快速、具成本效益且注重隱私的 AI 解決方案的基礎。這次發布反映了 Google 提供適合工作需求的工具,而非僅依賴原始模型大小的理念。隨著 AI 持續滲透到我們數位生活的更多層面,像 Gemma 3 270M 這樣能在日常裝置上完美執行的模型,將在讓每個人都能使用先進 AI 功能方面發揮越來越重要的作用。

對於有興趣探索 Gemma 3 270M 的開發者,該模型可從 Hugging Face 和 Kaggle 等平台取得,提供預訓練和指令調整版本。Google 也在 Vertex AI 上提供測試版本。透過完整的文件、微調配方,以及針對 Hugging Face、UnSloth 和 JAX 等工具的部署指南,開發者可以快速從實驗轉向部署,將精密的 AI 功能帶到資源受限的環境中。

🚀 以每年 5 美元解鎖無廣告體驗

✓ 14 天免費試用 ✓ 隨時取消

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *