[論文] ReSum：透過情境摘要解鎖長期搜尋智慧

在 AI 驅動的網頁搜尋代理領域取得重大突破，來自阿里巴巴集團通義實驗室的研究人員開發了一種創新方法，克服了大型語言模型（LLM）最持久的限制之一。他們的論文「ReSum：透過情境摘要解鎖長期搜尋智慧」於 2023 年 9 月發表在 arXiv 上，引入了一種範式，使網頁代理能夠維持延伸的探索能力，而不會遇到情境視窗限制。研究人員的創新解決方案在多個基準測試中提供了顯著的性能改善，有望改變 AI 系統進行複雜資訊搜尋的方式。

ReSum 的核心在於解決廣泛使用的ReAct 範式中的根本瓶頸，該範式中每次與環境的互動（思考、行動和觀察）都會持續附加到對話歷史中。這種方法很快就會耗盡即使是最先進 LLM 的情境視窗——通常限制在約 32,000 個 token——阻止代理完成需要廣泛探索的複雜搜尋任務。ReSum 不是附加每個細節，而是透過策略性摘要定期將不斷增長的互動歷史壓縮成緊湊的推理狀態，讓代理能夠無限期地繼續探索，同時保持對先前發現訊息的認知。

考慮一個複雜的查詢，關於根據其主題的片段性傳記細節識別文學作品：「一位畫家，其父親死於心臟病，有一個姐姐和與妻子生了五個孩子。後來，他的婚姻破裂，又有了三段關係。基於這個人的文學作品名稱是什麼？」這類問題需要多個循環的有針對性查詢、瀏覽、提取和驗證，以逐步減少不確定性並建立完整的證據鏈——這是傳統方法由於情境限制往往無法完成的程序。

由吳希希、李寬和趙一達領導的研究團隊將 ReSum 實作為對 ReAct 的最小修改，確保簡潔性和與現有代理的相容性。當接近情境限制時，ReSum 會呼叫專門的摘要工具，將對話壓縮成結構化格式，突出關鍵發現和訊息缺口。這個壓縮狀態然後作為新的起點，在探索段落之間創造無縫轉換。

為了支援這種摘要能力，團隊透過使用精心策劃的對話-摘要配對微調 Qwen3-30B-A3B-Thinking，開發了ReSumTool-30B。與通用摘要工具不同，ReSumTool-30B 專門從冗長的網頁搜尋互動中提取關鍵證據，識別訊息缺口，並突出下一步方向。這種專業化使模型能夠在摘要品質上超越甚至更大的模型，如Qwen3-235B和 DeepSeek-R1-671B，同時保持部署效率。

此外，研究人員引入了ReSum-GRPO，一個強化學習框架，幫助代理適應 ReSum 範式。這個演算法擴展了群組相對政策最佳化（GRPO）來處理分段軌跡，在同一個展開中的所有段落間廣播軌跡級優勢。這種方法鼓勵代理既能從壓縮狀態有效推理，又能收集產生高品質摘要的資訊。對於有興趣了解更多 AI 強化學習的讀者，《強化學習：導論》為這些概念提供了絕佳的基礎。

實驗結果在多個基準測試中令人印象深刻。在GAIA 基準測試上，WebSailor-30B 使用 ReSum 與 ReSumTool-30B 達到了 47.3% 的 Pass@1 率，相比標準 ReAct 的 45.0%。在具挑戰性的 BrowseComp-en 基準測試上看到了更戲劇性的改善，同樣的模型配置將性能從 12.8% 提升到 16.0%。當進一步透過 ReSum-GRPO 訓練增強時，產生的 WebResummer-30B 模型在 BrowseComp-en 上達到 18.3%，在 BrowseComp-zh 上達到令人印象深刻的 33.3%——超越了幾個在更大資料集上訓練的現有開源網頁代理。

這些性能提升特別值得注意，考慮到 ReSum-GRPO 僅用 1,000 個訓練樣本實作，相比通常用於訓練最先進網頁代理的 10,000+ 樣本。研究人員將這種效率歸因於範式能夠擴展探索能力而不引入過度的架構複雜性。

除了在網頁搜尋中的直接應用外，ReSum 方法代表了開發更有能力的代理系統的重要一步。透過在沒有情境限制的情況下實現長期推理，這項技術可以受益於任何需要延伸工具互動和訊息收集的領域，從科學研究到複雜規劃任務。對於建構 AI 代理系統的實用見解，《AI 代理解放》為自動化工作流程和擴展商業流程提供了寶貴策略。

這項研究也指向了有前景的未來方向，包括開發能夠智慧地自主啟動摘要呼叫而非依賴基於規則觸發器的代理，以及進一步精煉摘要程序以最大化訊息保留同時最小化 token 使用。

隨著基於 LLM 的代理持續演進，像 ReSum 這樣解決根本架構限制而不犧牲簡潔性或相容性的方法，將在擴展其能力方面發揮關鍵作用。對於有興趣了解大型語言模型基礎和應用的讀者，《大型語言模型快速入門指南》提供了實用策略和最佳實踐。透過實現真正的長期探索，這些進展讓我們更接近能夠以類似人類的持續性和徹底性處理日益複雜、知識密集任務的 AI 系統。