SoL-Pi 如何降低程式代理 token 用量？近半節省仍須驗證

token 用量下降，不代表 API 帳單會同比例下降。程式代理會在讀檔、修改、測試與檢查輸出時反覆傳送上下文，因此要同時看重複資訊、任務品質與實際計價。

SoL-Pi 是建立在 Pi coding-agent harness 上的研究型效率擴充。Harness 可理解為模型外層的代理執行框架，負責安排工具、上下文與驗證步驟。研究團隊在 EdgeBench 的 51 項公開任務上，觀察到 SoL-Pi 相較 Pi 減少約 44.7% 至 49.0% 的記錄 token 流量；同一組評估的平均分數約保留 Pi 的 94%，API 成本則低約三分之一。這是特定基準的結果，不是每個團隊都能直接換算出的節省幅度。

一、SoL-Pi 要處理的問題，是代理流程反覆消耗 token

SoL-Pi 針對的是長任務中重複傳送上下文、冗長工具輸出與多餘往返所累積的 token 流量。它調整代理框架的操作方式，沒有更換底層模型。

程式代理常先讀多個檔案、修改程式、執行測試，再依日誌修正。若工具輸出與對話歷史每輪都重送，上下文便會增長；任務輪數、快取計價和重試也會影響帳單。短任務可壓縮的重複資料較少，長日誌與反覆測試則可能有較大改善空間。

研究以自動研究循環提出並實作候選 harness 改動，再經獨立審查及凍結後的保留任務評估。結果仍受任務、指標和驗收門檻限制，不能視為免人工檢查的通用解方。

研究團隊指出，輔助模型整理證據，主要代理仍負責診斷問題與選擇行動。

先前 Strands Harness 的案例同樣涉及代理執行框架；此處只作背景。SoL-Pi 的重點是四項流程機制，以及這些機制在指定基準上的 token、成本和任務分數表現。

二、四項機制分別減少哪一種重複工作？

四項機制分別處理工具往返、上下文壓縮時機、大型輸出重送，以及日誌初讀的證據整理。它們作用在代理工作流的不同位置，並非單一通用的摘要功能。

Action Fusion：合併編輯與後續驗證

Action Fusion 將檔案編輯或寫入，與緊接著要執行的命令放進同一次工具操作。一般流程可能是模型要求修改、讀取修改結果，再另行要求執行測試；合併後，代理可在一次操作中取得變更結果與命令輸出，少一次來回。若後續驗證本來就不需要，或編輯後還要先判斷下一步，這種合併未必適用。

Online Context Compact：在子任務完成時評估壓縮

長對話的完整歷史有助於保留脈絡，也會讓後續呼叫攜帶更多內容。Online Context Compact 在計畫步驟或子任務完成時估算壓縮是否划算；預期節省大於重寫上下文的成本，才執行整理。研究描述它也支援接近上下文上限時的壓縮。判斷會參考上下文長度與快取寫入、讀取價格比，但論文指出，估算沒有另外計入摘要呼叫本身的成本。換模型或供應商後，原先設定的成本門檻可能不再合用。

ObservationPack：大型工具輸出保留回查入口

程式代理常收到測試日誌、指令輸出或長篇檔案結果，之後又反覆帶入新的請求。ObservationPack 將大型輸出保存在本機，前兩次仍完整傳送；從第三次請求起，改提供穩定索引、原始大小與短摘錄。代理需要細節時，可依索引找回原始片段。這不是刪除原始資料，但團隊仍需確認保存位置、存取權限與保存期限符合自身要求。

Evidence-Preserving Reducer：整理日誌並核對摘要依據

Evidence-Preserving Reducer 將符合條件的建置或測試日誌交給較低成本的模型初步整理，產生精簡的證據摘要。確定性檢查會核對摘要格式、來源雜湊、執行狀態、原文引句與摘要長度；驗證失敗、疑似含憑證或沒有縮短時，流程回退至原始日誌。主代理仍負責判斷問題和採取行動，降低摘要遺漏關鍵錯誤訊息後直接左右決策的機會。

四項設計都試圖減少重讀，同時保留回查原始資料的能力。導入時應確認摘要能對應日誌，且壓縮後仍保留驗證失敗等關鍵訊號。

三、近半 token 的數字在哪些測試條件下成立？

研究在 EdgeBench 的 51 項公開任務上，相較 Pi harness 測得 44.7% 至 49.0% 的 token 流量減量。同一評估的分數約為 Pi 的 93.7% 至 94.3%，API 成本約減少三分之一。

研究團隊在論文第 3.1 節總結 GPT-5.6 Sol 的 EdgeBench 結果：「SoL-Pi 的效率設定比 Pi 少用 49.0% token，保留 Pi 平均分數的 93.7%（42.0 對 44.8）。」（中文譯述）

研究以 GPT-5.6 Sol 與 Opus 5 分別測試。GPT-5.6 Sol 的完整四機制效率設定，記錄約 10.99 億 token，較 Pi 的約 21.54 億少 49.0%；平均分數為 42.0 分，Pi 為 44.8 分，保留約 93.7%。依論文使用的 API 價格估算，成本為 894 美元，低於 Pi 的 1,339 美元，約減少 33.2%。

Opus 5 測試中，SoL-Pi 記錄約 13.10 億 token，Pi 約 23.70 億，減少 44.7%；平均分數 42.2 對 44.8，約保留 94.3%。成本估算為 1,158 美元，相較 Pi 的 1,741 美元，低約 33.5%。這些成本採用論文標示的 2026 年 8 月 17 日 API 價格，價格變更後不能直接沿用美元金額。

評估項目	SoL-Pi 相較 Pi	解讀
EdgeBench，GPT-5.6 Sol	token -49.0%；平均分 42.0 對 44.8；成本 -33.2%	四機制完整效率設定
EdgeBench，Opus 5	token -44.7%；平均分 42.2 對 44.8；成本 -33.5%	未重新搜尋或調整機制的模型轉移測試
Terminal-Bench 4	解出 15/63；Pi 與 Codex 各 18/63	SoL-Pi 成本較低，但解題數較少

EdgeBench 涵蓋 134 項基準題中的 51 項公開任務。程式庫、任務難度與工具組合都可能改變結果；此基準中 SoL-Pi 平均分略低於 Pi，較準確的說法是在較低 token 與 API 成本下保留大部分平均分數，品質並非完全不變。

Terminal-Bench 4 的 63 項 CPU 任務中，SoL-Pi 解出 15 項，Pi 與 Codex 各 18 項；其任務和指標與 EdgeBench 不同，數字不可直接橫比。SoL-Pi 每個已解任務成本較低，但解題數也較少。論文註明成本依 2026 年 8 月 17 日 API 價格估算，價格日後可能變動。

四、團隊如何判斷流程最佳化有沒有降低實際成本？

固定任務、模型與品質門檻，再比較每個成功任務的費用、失敗重試和人工介入。token 數是診斷訊號之一，帳單和任務結果仍須分開核算。

挑選代表性任務建立現行基線，再以相同模型、工具權限、程式碼版本和時間預算跑候選流程。分開記錄輸入、輸出及快取讀寫 token，並採用同一供應商價格與計價日期。以通過驗證的成功任務為比較單位，同時計入重試、人工介入、整合與維護成本；事先訂好測試和證據回查門檻，避免帳單下降卻漏掉失敗或人工補做。

建立公平對照的檢查清單

1. 固定任務集合、模型版本、工具權限、程式碼版本與執行預算。
2. 分別記錄輸入、輸出、快取讀寫 token，並採用同一份供應商價格與計價日期。
3. 比較任務通過率、每個成功任務的 API 費用、重試次數及人工介入時間。
4. 抽查日誌摘要、上下文壓縮和工具輸出索引，確認能回查原始證據。
5. 計入整合、維護與資訊留存成本，再決定是否擴大測試。

五、採用前看成功任務成本與可驗證性

當相同任務的成功率與驗證完整性沒有不可接受的退步，而且每個成功任務的總成本確實下降，才有理由擴大採用。先做小規模、可重現的對照，再依結果決定下一步。

先依團隊工作型態挑機制：常在編輯後立即測試，可檢查 Action Fusion；大量往返日誌，則可測 ObservationPack 或日誌整理。SoL-Pi 是 Pi 的擴充，其他代理框架不能假設可直接套用。以自家任務和現行價格驗證成功率、資料回查與總成本，再決定是否擴大使用。

常見問題

Q1：SoL-Pi 能直接套用到其他程式代理嗎？

研究中的 SoL-Pi 是建構於 Pi coding-agent harness 的擴充。其他代理框架的工具、上下文和事件機制可能不同，須先確認相容性，並以自家任務測試，不能直接假設效果相同。

Q2：token 減少近半，是否代表 API 帳單也減少近半？

不代表。EdgeBench 中 SoL-Pi 相較 Pi 的 token 減量約為 44.7% 至 49.0%，API 成本約低三分之一；實際帳單仍受任務、重試和快取計價影響。

Q3：上下文壓縮或委派閱讀會不會漏掉重要資訊？

有可能，因此 SoL-Pi 的日誌整理機制會核對摘要格式、來源、狀態與原文引句，驗證失敗時回到原始日誌。團隊仍應抽查摘要、索引和測試結果，確認能回查原始證據。

Q4：團隊從哪裡開始評估比較合適？

挑選一組具代表性的任務，以現行流程記錄基線，再用相同模型、工具與品質門檻比較候選流程。只有在成功率、證據完整性與人工介入符合團隊要求，且每個成功任務的總成本下降時，才考慮擴大使用。