Google's AI Energy Revolution: How They Slashed Power Consumption by 33x in Just One Year

Google 的 AI 能源革命:一年內將耗電量削減 33 倍的驚人成就

Google 在過去一年中實現了 AI 查詢處理能源消耗驚人的 33 倍減少。向 Gemini 發送一個中位數文字提示現在僅使用 0.24 瓦時的電力、0.26 毫升的水,並產生 0.03 克的二氧化碳當量排放。這項進步源於硬體和軟體最佳化,包括專家混合技術和客製化張量處理單元。Google 測量環境影響的全面性方法為業界透明度設定了新標準。這項成就對營運成本、競爭優勢和未來法規合規具有更廣泛的影響。雖然在跨平台效率比較方面仍存在挑戰,但 Google 的工作證明了透過專注創新,AI 永續發展的顯著改善是可能的。

在人工智慧永續發展的重大突破中,Google 宣布其 AI 查詢處理的能源消耗在過去一年內大幅減少了 33 倍。這項驚人的改善來得正是時候,因為快速擴張的 AI 基礎設施對環境的影響已成為整個科技產業日益關注的議題。隨著資料中心在全球電力消耗中佔據越來越大的比重,而 AI 工作負載對運算能力的需求不斷攀升,Google 的成就代表了業界在大型語言模型能源效率方面可能出現的典範轉移。

根據 Google 最近發布的技術論文,向其 Gemini AI 助理發送一個中位數文字提示現在僅消耗 0.24 瓦時的電力——相當於運行標準微波爐約一秒鐘,或觀看電視約九秒鐘。該公司還透露,每次查詢使用約 0.26 毫升的水(大約五滴水)並產生僅 0.03 克的二氧化碳當量(gCO2e)排放。這些數據代表了迄今為止任何主要科技公司發布的最透明且最全面的 AI 環境足跡測量結果。

這項成就特別值得注意的是進步的速度。能源消耗減少 33 倍是在一年內實現的,展現了 AI 效率創新的快速步伐。這項改善來得正是關鍵時刻,因為美國的電力使用量比前一年增加了近 4%——這一趋勢與支援 AI 熱潮的資料中心激增有關。由於部分不斷增長的需求是透過增加煤炭使用來滿足,AI 的環境影響受到了更嚴格的審視。

Google 在大幅削減能源消耗方面的成功源於涵蓋硬體和軟體最佳化的全面性方法。其中最重要的創新之一是實施了一種稱為專家混合(MoE)的技術,該技術選擇性地僅啟動 AI 模型中處理特定請求所需的部分。這種智慧路由可以將運算需求減少 10 到 100 倍,大幅降低能源消耗。此外,Google 還開發了其主要模型的更緊湊版本,進一步減少推理任務所需的運算負載。

該公司的客製化 AI 加速器——張量處理單元(TPUs)——在這些效率提升中發揮了關鍵作用。Google 同時設計其 TPU 硬體和在其上運行的軟體,實現了使用通用運算基礎設施無法達到的最佳化。根據技術論文,AI 加速器上的活動佔查詢總能源消耗的一半以上,使得這些硬體特定的最佳化特別具有影響力。最新一代稱為 Ironwood TPUs,在專注於功耗效率的同時提供顯著的效能改善,讓 AI 工作負載能夠更具成本效益地運行。

資料中心管理也對 Google 的效率提升做出了重要貢獻。透過確保活躍硬體得到充分利用,同時讓閒置組件保持在低功耗狀態,該公司最大化了其基礎設施的能源效率。Google 的資料中心以其效率聞名,其電力使用效率(PUE)評級設定了業界標準。該公司在其計算中使用 1.09 的 PUE,反映了冷卻和其他支援系統所需的最小額外能源。

在其分析中,Google 採用了測量環境影響的全面性方法。該公司追蹤 CPU、專用 AI 加速器和記憶體的能源消耗——無論是在積極處理查詢時還是在請求之間閒置時。它還考慮了資料中心的能源和用水量,甚至將製造硬體相關的排放納入考量。然而,一些方面被排除在測量之外,包括提示到達 AI 電腦之前的網路成本、終端使用者設備的能源消耗,以及模型訓練的重大能源成本。

這種透明度水準標誌著業界的重大進步。雖然 OpenAI 和 Mistral AI 等其他公司已經發布了一些關於其模型環境足跡的資訊,但 Google 的披露提供了迄今為止最詳細的方法論。OpenAI 的 Sam Altman 最近表示平均 ChatGPT 查詢使用約 0.34 瓦時,而 Mistral AI 對其 Large 2 模型的評估顯示了更高的數據:400 個 token 回應產生 1.14 gCO2e 排放和 45 毫升水消耗。然而,由於測量方法的差異以及不同平台典型提示複雜度的變化,直接比較仍然具有挑戰性。

Google 這項成就的更廣泛影響超越了環境效益。透過減少能源消耗,該公司可以顯著降低營運成本,在日益競爭激烈的 AI 市場中獲得潛在競爭優勢。此外,隨著全球監管機構開始考慮 AI 開發和部署的環境標準,在永續發展方面展現領導力的公司可能會發現自己在應對未來合規要求方面處於更有利的位置。

展望未來,Google 的方法指向了進一步改善 AI 效率的幾個有前景的方向。專用硬體的持續進步、平衡能力與能源使用的更精密模型架構,以及改善的資料中心管理技術都可能推動額外的提升。此外,隨著更多公司採用類似 Google 的全面測量框架,整個業界可以更好地理解和解決 AI 技術的環境影響。

雖然一些批評者可能將 Google 的披露視為一種漂綠形式,強調個別提示效率而掩蓋數十億次查詢的累積影響,但其論文中提供的詳細方法論和技術透明度代表了真正的進步。透過建立測量 AI 環境足跡的框架並證明顯著的效率改善是可能的,Google 為業界設定了新的基準。

隨著人工智慧持續改變我們的數位環境,平衡技術進步與環境責任將仍然是一個關鍵挑戰。Google 的成就證明了透過專注的研究和創新,效率的大幅改善是可能的。現在的問題是業界其他公司是否會跟進,將永續發展確立為負責任 AI 開發的核心原則,而不是事後考慮。隨著 AI 採用在各個領域加速,今天做出的環境選擇將在未來數年內塑造我們數位未來的永續性。

🚀 以每年 5 美元解鎖無廣告體驗

✓ 14 天免費試用 ✓ 隨時取消

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *