AI agent 預設不會替你省錢。你給它一個任務,它會把工具呼叫、模型推理、來回試錯全開下去,把該花的、不該花的 token 一起燒掉,帳單月底才來。所以「省錢」這件事不能當成模型會自己長出來的美德來期待,要當成系統的硬約束,在設計階段就寫進去。

這不是假設。TechCrunch 六月的報導整理了一串帳單:Uber 四月就把整年的 AI coding 預算燒光,CTO 說得「回去重畫」;微軟給工程師開了 Claude Code,幾個月後又把授權收回;有家公司沒設用量上限,一個月累積出約五億美元的帳;還有工程師一個人一個月花掉四萬美元的 token。單價其實一路在跌,跌的速度卻追不上用量,同一份報導引 Goldman Sachs 估到 2030 年全球 token 用量還會再漲 24 倍。

暴增的帳單與收據,象徵 AI agent token 成本失控

這半年學界開始正面問一個更根本的問題:agent 到底懂不懂它在花錢。二月有一篇《Budget-Constrained Agentic Large Language Models》講得直接,現在的問題不再是 agent 能不能解難題,而是我們能不能信任它替我們做「花錢的決定」。這篇的實驗發現,放著不管的 agent 經常直接違反硬性預算上限,而且光靠在提示裡塞成本回饋(跟它說「請省一點」),根本不足以保證它守得住預算。

研究桌上的圖表與分析文件,象徵學界量測 agent 的成本行為

為什麼叫它省它不省?因為省錢對 agent 來說不是能力問題,是它的運作機制裡根本沒有一條「會痛」的神經。人會省錢,是因為錢從自己口袋出、超支有後果。agent 沒有這條神經,你在提示裡寫的預算對它只是一句參考文字,跟它拿來衝任務成功率的目標不在同一個量級。這跟我一直講的同一個道理:可信度靠的是流程設計,不是模型多聰明。要它守預算,得把預算變成它繞不過去的硬牆。那篇論文自己的做法也印證這件事,它不是把成本寫進提示求 agent 自律,而是設計一套機制去強制執行硬性預算可行性,才守得住。

控制面板與旋鈕,象徵把預算做成系統層級的硬性控制而非提示裡的一句話

還有一個常被跳過的誤會:以為讓 agent 多想幾步、多花點算力,答案就會更好,所以貴一點無所謂。資料不支持。Holistic Agent Leaderboard 跑了大規模評測,發現「提高推理努力,多數情況下反而讓準確率下降」。另一篇三月的《Spend Less, Reason Better》講得更白:現在的做法把算力當成無限資源,任由 agent 在重複步驟和死路上把 token 和工具預算耗光;它們設計的預算感知搜尋,在嚴格的低預算下,表現還能勝過對手多給四倍資源的版本。《Efficient Agents》也量出同一件事,保留領先框架 96.7% 的表現,成本卻從每題 0.398 美元壓到 0.228,省了 28.4%。多花不等於做得好,很多時候是白燒。

下滑的效率曲線圖,象徵多花算力反而報酬遞減

所以預算意識該不該寫進設計?該,而且要當成第一層的東西來設計,不是事後補的儀表板。具體到台灣企業明天早上就能做的有三件:導入 AI coding 助手或 agent 之前,先設每人、每專案、每次任務的硬性用量上限,撞到就停;把成本記帳做到「哪個 agent、哪個任務、花了多少」看得見,而不是月底收一張總帳單才驚醒;把「省下的成本」跟「任務完成率」一起放進驗收,別只看它做完了沒。這幾件事跟我之前寫 MCP 成 agent 事實標準後、企業要治理什麼 是同一條線:agent 放進公司,要治理的從來不只是它能不能做事,還有它動了多少權限、花了多少錢。

監控儀表板與工程控制介面,象徵把成本記帳與用量上限做進系統

回到那個研究問的問題:AI agent 懂不懂省錢?就現在的證據看,它不懂,也沒有動機懂。這不是模型不夠好,是我們把一個沒有預算神經的東西,放進了會真的花錢的位置。解法不在等下一代模型自己變節儉,在把預算變成它繞不過的硬約束、把成本變成看得見的數字。看懂這一點,比追哪個模型每題便宜幾分錢重要。

辦公室團隊在螢幕前討論,象徵台灣企業導入 agent 時的成本治理

常見問題

AI agent 會自己控制成本嗎?
不會。二月一篇學術研究實測發現,沒有額外約束的 agent 經常直接違反硬性預算上限。它拿到任務會盡量把工具呼叫和推理開下去衝成功率,省錢不在它的目標函數裡,所以成本控制得靠外部設計,不能指望模型自律。

在提示裡叫 AI「省一點」有用嗎?
幫助有限。同一篇研究指出,光靠提示裡的成本回饋不足以保證預算可行性。提示裡的預算對 agent 只是參考文字,跟它衝任務完成的目標不在同一個量級。真正守得住的做法是把預算變成系統層級的硬性上限,撞到就停。

讓 agent 多花算力、多想幾步,答案會比較好嗎?
不一定。Holistic Agent Leaderboard 的大規模評測發現,提高推理努力在多數情況下反而讓準確率下降。另一篇研究也顯示,優化過的框架能保留 96.7% 表現、成本卻少 28.4%。多花很多時候只是把 token 燒在死路上。

台灣公司導入 AI coding 助手,怎麼避免帳單失控?
三件事:一,導入前就設每人、每專案、每次任務的硬性用量上限,撞到就停;二,把成本記帳做到逐 agent、逐任務看得見,別等月底總帳單;三,驗收時把省下的成本和任務完成率一起看。海外已有企業因為沒設上限單月燒出五億美元帳單的前車之鑑。