Google's AI Energy Revolution: How They Slashed Query Energy Costs by 33x in Just One Year

Google 的 AI 能源革命:一年內將查詢能耗降低 33 倍的驚人成就

Google 在短短一年內實現了 AI 查詢能源消耗減少 33 倍的卓越成就,大幅影響了 AI 永續性的討論。Gemini Apps 文字提示的中位數現在僅使用 0.24 瓦時能源,排放 0.03 克 CO2e,消耗 0.26 毫升水。這項效率提升歸因於軟體最佳化,包括「專家混合」技術和精簡模型版本。Google 的硬體軟體整合方法,特別是其張量處理單元,發揮了關鍵作用。雖然挑戰依然存在,例如 AI 查詢數量的指數級增長,但 Google 的成就證明了 AI 效率的快速改善是可能的,有潛力讓技術進步與環境責任保持一致。

在科技界日益關注人工智慧環境影響的背景下,Google 發布了一項突破性公告,可能大幅改變 AI 永續性的討論方向。根據該公司發布的詳細技術分析,Google 成功在短短一年內將 AI 查詢的能源成本降低了驚人的 33 倍。這項卓越成就來得正是時候,因為美國的電力使用量預計在 2025-2026 年將達到歷史新高,主要歸因於為滿足 AI 服務日益增長需求而快速擴建的資料中心。

與 AI 相關的能源消耗增加一直是環保人士和業界觀察家的重大關切。根據彭博新能源財經預測,美國資料中心的電力需求到 2035 年將增加一倍以上,從 2024 年的近 35 吉瓦上升至 78 吉瓦。然而,Google 最新披露的資訊提供了關於大規模 AI 實際資源需求的珍貴洞察,可能改變我們對 AI 環境足跡的理解。

根據 Google 的全面分析,Gemini Apps 文字提示的中位數現在僅使用 0.24 瓦時的能源,排放 0.03 克二氧化碳當量(gCO2e),消耗僅 0.26 毫升水——相當於約五滴水。為了讓大家有概念,該公司表示,典型 AI 查詢的能源消耗相當於看電視僅九秒鐘。雖然這些數字代表個別查詢,但考慮到 Google 每日執行的 AI 操作龐大數量,累積影響仍然相當可觀。對於有興趣親身體驗 AI 技術的人,MUCAR 892BT AI 輔助雙向掃描工具提供了 AI 在汽車診斷方面的實際應用。

Google 成就特別值得注意的是實現這些效率提升的速度。在短短一年內每個提示的能源消耗減少 33 倍,展現了 AI 效率創新的快速步調。部分改善歸因於外部因素,例如美國和其他地區太陽能發電的蓬勃發展,讓 Google 更容易安排使用再生能源。這種能源來源的轉變使得過去一年每單位能源消耗的碳排放減少了 1.4 倍。

然而,最顯著的提升來自 Google 的軟體最佳化。該公司實施了幾種創新方法來減少 AI 查詢的運算需求。其中一種方法是「專家混合」技術,選擇性地僅啟動 AI 模型中處理特定請求所需的部分。這種針對性方法可以將運算需求減少 10 到 100 倍,大幅削減能源消耗。

此外,Google 開發了主要模型的精簡版本,在維持效能的同時需要較少的運算能力。該公司精密的資料中心管理也在能源效率方面發揮關鍵作用,確保活躍硬體得到充分利用,同時讓閒置組件保持低功耗狀態。

Google 作為硬體和軟體開發商的獨特地位,讓它在最佳化 AI 能源使用方面具有顯著優勢。該公司設計自己的客製化 AI 加速器,稱為張量處理單元(TPUs),並創建在其上運行的軟體。對於有興趣了解 TPU 技術實際應用的人,像Siraya Tech Flex TPU 線材這樣的產品展示了 TPU 材料如何在製造業中使用。這種整合方法讓 Google 能夠最佳化硬體/軟體等式的兩端,產生無縫協作的系統。考慮到 AI 加速器上的活動佔處理查詢總能源使用的一半以上,這種整合特別重要。

Google 最新一代 TPU 稱為「Ironwood」,代表了能源效率的重大進展。根據該公司表示,這些新 TPU 的能源效率比第一個公開版本高出約 30 倍,對整體能源消耗減少貢獻良多。

值得注意的是,Google 的測量方法相當全面。該公司追蹤 CPU、專用 AI 加速器和記憶體的能源消耗,包括主動處理查詢時和操作間閒置時的消耗。它也考慮了資料中心的能源和用水量、電力供應的碳排放,以及硬體生產產生的排放。對於有興趣了解 AI 硬體技術層面的人,《人工智慧與硬體加速器》提供了這個領域的寶貴見解。這種全面性方法比許多先前的分析提供了更完整的 AI 環境影響圖像。

然而,Google 的計算排除了一些因素。用於傳輸請求和傳遞結果的網路容量環境成本未包含在內,終端使用者硬體的運算負載也未計入。或許最值得注意的是,與訓練模型相關的能源成本也從估算中省略,儘管 Google 肯定擁有這些資料,並可能在未來分析中納入。

將 Google 的效率聲明與其他主要 AI 供應商比較時,出現了有趣的模式。OpenAI 的 Sam Altman 最近表示,平均ChatGPT 查詢使用約 0.34 瓦時能源,略高於 Google 報告的每個 Gemini 查詢中位數 0.24 瓦時。對於有興趣了解 AI 翻譯技術的消費者,像支援 ChatGPT 的 AI 語言翻譯設備這樣的裝置展示了這項技術的實際應用。然而,這些數字無法直接比較,因為 Google 報告的是中位數能源使用,而 OpenAI 報告的是平均值。此外,兩項服務的查詢性質和複雜度可能有顯著差異。

法國 AI 公司 Mistral AI 也透過發布同儕審查的環境影響報告,為 AI 永續性討論做出貢獻。根據他們的生命週期評估,其 Large 2 模型的 400 個標記回應排放 1.14 gCO₂e 並使用 45 毫升水——這些數字明顯高於 Google 報告的資料。這種差異可能源於測量方法、基礎設施效率或不同模型運算需求的差異。

Google 並未單純將這些令人印象深刻的效率提升作為公關操作,而是值得讚許地以類似學術出版物的格式詳細說明其方法和考量。該公司倡導在業界廣泛採用其測量框架或類似的全面性方法。這種標準化推動可以幫助確保隨著 AI 能力進步,其環境效率也同步改善。

每個查詢能源消耗的大幅減少,在直接節能之外還有重要的連鎖效應。例如,當硬體在其使用壽命內能夠處理更多查詢時,製造硬體的環境影響就變得較不重要。這種將製造排放分攤到更多操作上的做法,進一步改善了 AI 服務的整體永續性概況。

雖然 Google 在 AI 能源效率方面的成就令人印象深刻,但挑戰依然存在。AI 查詢的數量持續呈指數級增長,可能抵消每個查詢效率的提升。根據彭博新能源財經,全球資料中心的電力需求預計到 2035 年將上升至 1,200 兆瓦時,到 2050 年達到 3,700 兆瓦時。Google 已將 AI 操作整合到幾乎每個搜尋查詢中,創造了幾年前根本不存在的運算需求。因此,儘管效率有顯著改善,累積的環境影響仍然令人關切。

此外,對於 Google 分析完整性的質疑仍然存在。排除可能相當可觀的模型訓練成本,讓 AI 生命週期的重要部分未被計入。一些專家認為,對於某些模型,可能需要數億個提示才能達到訓練和推理之間的成本平衡,顯示訓練能源消耗可能是總環境足跡的重要因素。

儘管如此,Google 的成就代表了解決 AI 開發最迫切關切之一——環境永續性——的重要進展。每個查詢能源消耗減少 33 倍證明了效率的快速改善是可能的,科技產業有潛力透過創新走向更永續的 AI。

展望未來,主要 AI 供應商對其環境影響的持續透明化將至關重要。Google 的詳細披露樹立了正面先例,希望能鼓勵其他公司跟進。透過標準化測量框架和對效率的承諾,AI 產業可以努力讓技術進步與環境責任保持一致。

邁向真正永續 AI 的旅程遠未完成,但 Google 戲劇性的效率改善顯示,在極短的時間框架內實現重大進展既可能也可行。隨著 AI 持續改變我們的世界,減少其環境足跡的創新將與增強其能力的創新同樣重要。

🚀 以每年 5 美元解鎖無廣告體驗

✓ 14 天免費試用 ✓ 隨時取消

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *