很多人第一個會先想到,AI 代理記得愈多對話,就愈能延續任務。長時程代理也可能反覆微調早期選定的方向。微軟研究者提出 Fork-and-Flush:保存程式與工作成果,替多個代理分支清空聊天脈絡,再依任務評分挑選後續路徑。

這項研究提醒工作流設計者先分清兩種記憶:對話紀錄保存推理脈絡,工作區則保存程式、檔案和實驗結果。重設前者,不必然要刪除後者。對台灣的產品團隊、研究者與工程師而言,實務上可採用的方向,是把它當作待驗證的工作流選項,並追問:任務是否有客觀分數?中間成果是否可保存?重新開始後能否找回必要背景?在相同預算下,品質與成本有沒有改善?

代理記住愈多,解法就一定愈好嗎?

長時程自主代理會依候選方案的執行結果持續修改;早期假設與近期推理可能讓後續搜尋集中在熟悉的解法區域。微軟研究者以「想法盆地」描述這種軌跡聚集現象,並提出重設聊天脈絡的實驗方法。

長任務中的自主代理如何提出與評估解法

論文討論的 autoresearch agent,可譯為「自主研究代理」。它會反覆提出候選方案,在環境中執行或接受評估,再依結果調整下一輪實驗。這種循環適合目標清楚、但做法很多的任務,例如排程最佳化、破解密碼問題、推論污染源,或在準確率限制下縮小分類模型。

代理每輪依分數或執行回饋修正方案,也可能保留可用程式。長時間執行會累積大量對話,包括採用的假設、失敗嘗試、錯誤訊息與下一步推理。

延續脈絡能避免重新理解任務或重做錯誤,也可保留先前的限制;若關鍵條件沒寫進檔案,聊天歷史甚至是唯一交接紀錄。但連貫性不保證解法品質上升,早期選擇也可能成為後續搜尋的邊界。

研究者如何描述「想法盆地」

Cai、Ziakas 等人在 2026 年 10 月提交的論文中,觀察同一代理在相同任務上的多次獨立執行。以其中一項研究任務為例,八次執行最後分數落在 68.3 至 100.0 之間,差距在增加運算後仍存在。研究者也依候選成果的功能相似度建立嵌入圖,觀察不同執行軌跡是否聚集在解法空間的局部區域,並將這些區域稱為「想法盆地」。

「想法盆地」是研究者對特定實驗中解法軌跡的描述,不能視為已證實的普遍心理機制。它提出一項可檢驗假說:代理可能長期改良既定策略,較少探索其他解法;不同脈絡或分支或可抵達不同成果區域。

「候選成果的軌跡停留在解法空間的局部區域,我們稱之為想法盆地。」— Cai、Ziakas 等人,Fork-and-Flush 研究論文(2026,譯)

聊天歷史如何同時提供脈絡、限制探索?

聊天歷史讓代理保留前因後果,但先前的假設、失敗路徑與近期推理也會進入後續輸入。當代理只在既有方向上持續修補時,脈絡可能降低探索其他解法的機會。

既有假設與嘗試如何延續到下一輪

假設代理正在找一個高效的排程演算法。它先選定某種搜尋策略,連續幾輪都在調整參數;聊天紀錄累積後,代理會看到自己為何選這條路、哪些變體已失敗,以及最近一次錯誤出在哪裡。這些線索可節省時間,也可能令「繼續微調」比「改用另一種演算法」更容易被提出。

停滯也可能源於回饋稀少、評分偏好局部改良,或工具不利於測試新方案。即使清除歷史,若工作區只留原程式、提示要求延續舊策略,或評分器低估新解法,搜尋仍可能回到相似結果。設計者要查明代理缺少探索空間、評估訊號,還是改換路徑成本過高。

上下文也可能保存不可丟棄的資訊,例如客戶要求、資料限制、授權條款、安全條件或尚未寫入檔案的決策。若在沒有整理狀態前清空對話,代理可能重複花費、覆寫成果,甚至違反任務限制。重設涉及狀態管理:哪些資訊要留在可讀文件中,哪些可以從頭重新探索?

上下文重設與工作成果保存是兩件事

Fork-and-Flush 把對話脈絡與工作區分開處理。工作區可包括程式碼、生成檔案、實驗紀錄、設定、分數和提交結果;代理的新分支從這些既有成果出發,但開始時沒有父分支的完整聊天歷史。新分支可以檢視檔案,再自行判斷下一步,不必照搬前一段對話的推理路徑。

團隊若想測試類似方法,至少應將重要狀態寫進工作區:任務目標與硬性限制、目前最佳成果及分數、已測試過的路徑、可重現的執行方式、尚待確認的假設。這些內容要足以讓新代理接手,也要避免把某個未驗證的偏好包裝成必須遵守的指令。工作紀錄可以說「方法 A 曾測試,分數為 X」,但不應只留下「方法 A 不可能成功」這種欠缺證據的結論。

兩個代理對話狀態並列呈現,共用程式、實驗紀錄與分數
把程式、紀錄與評分存進工作區,新分支才能接手成果而不必沿用舊對話。

Fork-and-Flush 如何保留進度又開啟新路徑?

Fork-and-Flush 先從現有工作成果建立多個平行分支,讓各分支以新的聊天脈絡探索固定時間或計算預算,再依任務分數保留表現較好的分支繼續。方法結合了分支搜尋與上下文重設,保留工作區但不沿用完整對話。

分支、清除脈絡、評分與繼續執行

「Fork」是分出多條探索路徑;「Flush」則是清除分支的聊天歷史。論文中的分支會取得前一階段累積的工作區,並從空白對話脈絡開始。每條分支獲得固定探索預算,執行完成後,由任務評分選出領先成果,再將它作為新的工作基礎。未被選中的分支不再繼續消耗後續預算。

作者預先安排固定的分支時點,降低依賴難校準的自動停滯偵測器。實驗的完整方法以起始探索及後續固定預算節點分批展開,每次各啟動四個分支,再按評分選出領先者。固定節奏有利於比較,實務上仍須依任務時間、分支數量、運算費用與狀態保存成本調整。

研究數據該怎麼讀

研究團隊在 13 項長時程研究與工程任務上比較方法,範圍包括拼圖式組合最佳化、工作排程、密碼分析、影像分類器縮小,以及模擬處理器核心最佳化。相同任務條件下,代理模型與總計算預算受到控制。作者將不同任務的分數以 min-max 正規化,讓分數尺度不同的任務能放在同一個平均比較中。

Fork-and-Flush 的正規化平均分數為 0.78,單次執行基準為 0.47,best-of-4(四次執行取最佳)為 0.54。論文將前者描述為相對提升 66.0% 與 44.4%;這是該評測採用的正規化平均分數比較,不能改寫成成功率提升,也不代表每一項任務都提升同樣比例。論文報告 Fork-and-Flush 在 13 項任務中的 12 項取得較高平均分數,仍有一項任務沒有勝出。

研究也分別測試「只清除脈絡」與「只做分支」。在排除兩項最耗資源任務後的 11 項任務上,單次執行平均分數是 0.45,只清除聊天脈絡是 0.55,只分支是 0.57,兩者合併為 0.71。在這組消融測試中,兩個元件各自都高於單次基準,合併時分數更高;11 項任務的 0.71 與前述 13 項任務的 0.78 不宜混為一談。

做法是否重設對話是否平行探索研究中的正規化平均分數
單次執行否否0.47(13 項任務)
Best-of-4否是,從頭各跑一次0.54(13 項任務)
只清除脈絡是否0.55(11 項任務消融)
只做分支否是0.57(11 項任務消融)
Fork-and-Flush是是,從既有工作區分支0.78(13 項任務);0.71(11 項任務消融)

表格中前兩列與最後一列的 13 項任務結果可互相比較;消融列只涵蓋 11 項任務,分數用來拆看元件效果。作者也指出,單獨清除脈絡並不能解釋全部差異,分支搜尋本身同樣有貢獻。若團隊只照抄「清空歷史」而不設平行探索、可靠評分或成果保留機制,就沒有重現整套方法。

「在相同計算預算下,Fork-and-Flush 優於單次執行與 best-of-N 基準。」— Cai、Ziakas 等人,Fork-and-Flush 研究論文(2026,譯)

哪些任務適合測試重設上下文?

優先挑選長時間、能保存中間成果、且有客觀評分程序的任務。先固定模型、工具與總預算,再對照持續對話、重設上下文及分支探索,追蹤品質、成本、錯誤和重設後需要補回的資訊。

定義成功指標、工作區產物與評分者

先把任務完成寫成可重複判讀的指標。例如程式最佳化可記錄正確性測試是否通過、執行時間與記憶體用量;資料處理任務可記錄輸出與標準答案的差異、錯誤率及人工覆核時間。若只問「結果看起來好不好」,評分者可能偏好某種表達方式,讓分支選擇受主觀感受影響。

評分流程要能在分支之外執行,並避免由生成該解法的代理自行替自己打分。可用固定測試集、外部程式檢查、盲評者或事先定義的規則;若涉及人工作用,先說明抽樣方式與判分準則。當評分器不可靠時,選出的領先分支可能只是最會迎合指標的方案,而非真正完成任務的成果。

接著規定每次交接要留下什麼:當前最佳版本、執行指令、依賴環境、輸入資料版本、分數與錯誤紀錄、尚未解決的風險。對包含敏感資料、商業機密或受授權限制的工作,還要確定分支複製和日誌保存符合內部權限與資料治理要求。代理多開幾個分支,可能也代表更多副本、更多存取者與更大的管理面積。

設定對照組、預算與重設時機

每種條件都應使用同一版本的模型、相同工具、相同任務資料,以及一致的計算或費用上限。至少可以安排三組:保留完整對話持續執行;沿用工作區但清空聊天脈絡;複製工作區、開啟多個新脈絡並由評分器選出分支。如果任務可重複執行,應在每一組做多次試驗,避免一次運氣好的結果主導決策。

公平比較也要計入分支的總成本。相同「單一代理執行時間」不代表相同總運算量;四個分支同時執行可能在較短牆鐘時間內花掉更多 token、API 額度或機器資源。最好分別記錄完成品質、實際費用、牆鐘時間、重試次數與人工介入,並在總預算一致的條件下比較結果。

重設時機可以固定在任務進度節點,或在有明確跡象時啟動,例如多輪測試分數沒有改善、代理重複提出相似修改、或持續回到同一失敗假設。後者要避免讓同一代理僅憑自我判斷宣告「卡住」,可搭配分數曲線、程式差異或人工檢查。研究採固定節奏,適合做可重現的基準;產品流程可另測固定週期與觸發式重設的差異。

追蹤品質、成本與脈絡遺失

每次重設後都應檢查新分支是否重新問已回答過的問題、重做已排除的錯誤方案,或漏掉安全與產品限制。這些都是脈絡遺失的成本。可將補回背景所花的時間、重複實驗數、違反限制的次數、覆寫成果的次數記錄下來,與探索多樣性及最終分數一起分析。

評測結果也需跨任務解讀。若重設讓一類程式最佳化任務變好,卻讓需要長期依賴先前決策的任務退步,工作流可以只在前一類使用。可依任務建立保留資訊清單和停止條件:何時允許分支、何種成果可被採納、發生資料遺失或分數異常時如何回復。這樣的流程能把「感覺代理卡住了」轉成可以複查的決策紀錄。

評測清單列出三種上下文策略,並排呈現品質、成本、重複錯誤與脈絡補回時間四項指標
比較上下文策略時,除了成果品質,也要記下運算成本與重設後補回資訊的代價。

常見問題:清空對話是否等於代理失憶?何時值得重設?

清空對話不等於刪除工作區檔案,但仍可能遺失未保存的背景與決策。只有在任務可評分、成果可交接且成本納入比較時,重設才適合作為待測的工作流選項。

常見問題

Q1:清空聊天歷史會刪除代理寫出的程式嗎?

不一定。Fork-and-Flush 的設計是保留工作區檔案與實驗成果,只讓新分支從空白聊天脈絡開始。實際系統是否會保留檔案,取決於工作區複製與儲存方式,重設前應先確認備份和回復流程。

Q2:研究中的 66% 代表我的 AI 代理能提升 66% 嗎?

不能。這是研究在 13 項任務上,將任務分數正規化後得到的平均相對提升,且比較對象是指定基準。模型、任務、評分器、工具和總預算不同,實際結果可能改變,不能把它視為一般產品的成功率增幅。

Q3:一般聊天機器人也需要定期清空對話嗎?

這項研究測試的是長時程研究與工程代理,不足以直接推論日常問答、客服或寫作對話。若使用者需要延續個人偏好、前文資料或共同修改內容,清空歷史反而可能增加重述成本。

Q4:什麼時候適合開始測試重設上下文?

當任務可重複執行、有客觀評分方法、工作成果能保存,而且團隊能控制模型、工具與預算時,可以先設小規模對照測試。除了比較分數,也要記錄分支費用、重複錯誤及重設後補回必要資訊的時間。

結論:讓上下文管理成為可比較的設計選項

先把必要背景移到可交接的工作紀錄,再用相同評分方法和總預算比較不同策略,並追蹤品質、成本與脈絡遺失。

聊天脈絡對代理有兩種作用:它保留連貫性,也可能延續既有搜尋方向。Fork-and-Flush 在特定長時程任務中呈現了分支與重設結合的效果,但單篇研究、有限任務與評分設計仍構成適用邊界。關鍵設計工作,是把必要背景從對話移到可交接的工作紀錄,並用同一套評分和預算比較不同策略。

若團隊已有一項長時程代理任務,可先挑出能保存中間產物、又有客觀完成指標的工作,建立持續對話與重設上下文的對照實驗。固定模型、工具、資料及總計算預算,記錄最終品質、探索差異、執行成本與脈絡補回需求,再依結果決定是否把重設納入工作流。平行分支會增加計算消耗,評分指標也可能挑中不可靠的解法,兩者都應列入採用判斷。

  • Fork-and-Flush 保留程式、檔案與工作成果,重設的是代理聊天脈絡。
  • 研究在 13 項任務上的正規化平均分數高於指定基準,不能外推為所有 AI 代理都能提升 66%。
  • 導入前應固定任務指標、模型、工具與總預算,並追蹤品質、成本、脈絡遺失及評分器可靠性。

參考文獻

  1. Cai Z, Ziakas C, et al. (2026). Fork-and-Flush: Escaping Idea Basins in Autoresearch Agents. arXiv. https://arxiv.org/pdf/2610.07447
  2. Matthias Bastian (2026). Clearing chat history helps AI agents find better solutions. THE DECODER. https://the-decoder.com/clearing-chat-history-helps-ai-agents-find-better-solutions/