很多人第一個會先想到,算力少了就代表使用成本也會下降。微軟公布 MAI-Base-2 後,媒體以「算力耗用是競爭模型的 1/4」概括;但要評估模型是否更省錢,得先分清楚訓練算力、推論資源和服務帳單。微軟說的 4.2 至 12.3 倍,指的是預訓練 FLOPs 效率估算,不能直接換算成每次請求的推論成本或價格。iThome 報導也提到「1/4」說法,實際採用時應回到微軟公布的技術說明確認測量範圍。
對正在選模型的團隊來說,這項消息提供的是一個值得追蹤的訓練效率與模型能力訊號。它還沒有回答服務何時開放、價格如何計算,以及自家任務能否達到足夠品質。這些問題需要等服務條件明朗後,透過代表性工作負載驗證。
算力效率高,是否就代表用起來更便宜?
不能。微軟公布的是訓練階段的 FLOPs 效率估算,沒有公布 MAI-Base-2 每次推論所需資源、服務價格或企業端總成本。
FLOPs 是浮點運算次數,用來描述模型執行計算的工作量。預訓練發生在模型建立階段,推論則是模型收到提示後產生輸出的階段,兩者使用的工作負載、硬體配置與成本結構都不同。若一項模型技術讓訓練更有效率,團隊可能把省下的訓練算力用來訓練更大的模型;微軟也表示,MAI-Base-2 的效率節省投入了更大的模型訓練。
推論的實際資源消耗還受輸入與輸出長度、同時請求數、批次大小、記憶體、硬體利用率和服務架構影響。即使兩個模型參數量相近,部署方式或流量型態不同,延遲與單次任務成本仍可能不同。若使用代管 API,客戶看到的價格還會受到服務商計價單位、方案和用量規則影響。
因此,「預訓練 FLOPs 效率較高」可視為訓練方法在特定比較條件下的效率訊號,不能推論企業採用後帳單也會按相同比例下降。要知道是否划算,仍須以相同任務和品質門檻,量測實際推論與完成工作的完整成本。
「我們的配方在預訓練 FLOPs 效率上高出 4.2 至 12.3 倍。」這是微軟針對訓練效率估算的說明,並非推論價格承諾。— Microsoft AI,2026 年 10 月 15 日(譯述)
微軟公布的 MAI-Base-2 數據,實際測了什麼?
微軟稱 MAI-Base-2 是混合專家(Mixture of Experts,MoE)基礎模型,總參數 2.8 兆、啟用參數 800 億;4.2 至 12.3 倍則是相對 DeepSeek-V4-Pro-Base 的預訓練 FLOPs 效率估算。
MoE 模型把網路中的部分區塊設計成不同「專家」,再由路由機制為輸入分配運算。總參數量描述整個模型包含多少參數;啟用參數量描述處理某個 token 時會動用的參數規模。兩個數字不能互換,也不能只看啟用參數,就推算模型需要幾張 GPU、能達到多少延遲或推論費用。實際部署還要看專家分配、記憶體容量、跨 GPU 通訊與系統實作。
微軟公布的 4.2 至 12.3 倍,來自四項留出評測的估算。研究團隊以不同規模模型組成 scaling ladder(規模階梯),將評測的 bits-per-byte(BPB,每位元組位元數)與訓練 FLOPs 擬合,再估算自家訓練方法要花多少運算量,才能達到 DeepSeek-V4-Pro-Base 在各評測上的 BPB。四個測試各自得到效率估值,因此結果是一段範圍,而非單一固定比例。
這是模型開發者提出的訓練方法比較,不是同一客戶工作負載下的推論測速或價格測試。官方文章說明了估算方式與模型比較對象,但讀者無法單靠這個數字重現企業端的服務成本。
| 公布項目 | 測量或比較範圍 | 不能直接推論的事 |
|---|---|---|
| 4.2 至 12.3 倍 | 相對 DeepSeek-V4-Pro-Base 的預訓練 FLOPs 效率估算 | 每 token 推論成本、API 價格降低幅度 |
| 80B 啟用參數、2.8T 總參數 | MoE 模型架構的兩種參數口徑 | 所需 GPU 數、端到端延遲、部署成本 |
| 留出評測的 BPB 結果 | 微軟設定的程式碼、問答、STEM、數學任務 | 所有語言、所有提示與實際工作都更好 |

基準測試結果有哪些比較限制?
不能。這些結果是微軟在指定留出資料與預訓練模型上做的評測,不能當成獨立驗證,也不能直接代表企業日常任務的輸出品質。
微軟使用 BPB 比較留出文字,表示模型預測文字的能力,且設計上不受不同模型 tokenizer(分詞器)切分方式影響。官方說明,程式碼測試使用 MAI 自家的程式碼庫;STEM、數學與問答評測由外部業者設計,以降低訓練資料污染疑慮,並表示已將評測集與訓練資料去重比對。這些條件有助理解測試如何設計,但評測任務仍由微軟選定,結果也由微軟發布。
比較模型的檢查點也不完全相同。微軟表示,DeepSeek-V4-Pro-Base 是當時唯一已發布、參數超過一兆的開放權重基礎模型;Kimi K3、Qwen3.8-2.4T-A95B 與 MiMo-V2.6-Pro-RL 則只有後訓練檢查點可供比較。後訓練可能改變模型在預訓練評測上的表現,因此微軟也在文章中提醒這項差異。
這代表結果可以支持「MAI-Base-2 在微軟所測的留出評測中,BPB 低於受測模型」這個範圍有限的描述,不能延伸成「在各類任務表現都勝出」。BPB 也不是使用者完成工作的品質量表,無法直接回答摘要是否忠實、程式能否執行、繁體中文客服回答是否符合企業規則等問題。
獨立實測仍有價值,因為企業需要確認相同提示、相同資料和相同驗收標準下的結果。但在模型權重或服務端點尚未提供前,外部團隊無法直接重跑這些測試。可先把微軟公布的內容當作廠商資料,等可取得後再用自有任務進行比較。
「只有後訓練檢查點可用;後訓練可能影響這些評測。」微軟以此註明部分對照模型的比較限制。— Microsoft AI,2026 年 10 月 15 日(譯述)
目前能不能取得模型,成本又如何計算?
微軟公布時尚未開放 MAI-Base-2 使用。官方表示模型仍在後訓練,並計畫日後透過 Foundry 將模型權重授權給可信合作夥伴;公告沒有提供公開權重、開放日期或 MAI-Base-2 價格。
「透過 Foundry 授權」指向未來合作與授權安排,不能理解成任何企業目前都能呼叫模型,也不能假設它會以公開權重下載或一般 API 方式提供。微軟也提到會先將模型整合至自家產品,再提供後續資訊;實際開放對象、部署方式、合約條件與價格仍應以後續官方公告為準。
服務開放後,模型費用也只是總成本的一部分。企業可先把成本拆成幾個可以實測或詢價的欄位:模型服務費、運算與儲存、輸入輸出 token 數、提示與檢索系統、資料整理、錯誤回復、人工覆核、系統整合、資安治理和日常維運。若任務常要人工修正,單看每千 token 價格會低估完成工作的支出。
資料治理同樣影響採用決策。測試前需確認提示與文件是否送到第三方服務、合約如何規定資料使用與保存、誰能存取資料,以及服務中斷時有沒有替代模型或人工流程。若系統深度綁定單一供應商,轉換模型可能增加提示改寫、格式調整和重新驗證的成本。

什麼情境值得列入後續實測?
先選一組重複、可驗收且代表日常工作的任務,設定品質底線,再比較每種模型完成同一工作的時間、錯誤與總成本。服務尚未開放前,先備妥測試集與治理檢查表即可。
測試任務應來自真實流程,例如依企業文件回答問題、將長文件整理成固定格式,或依規則分類客服訊息。樣本要涵蓋常見情況,也要包括容易出錯的邊界案例;機密資料應先去識別化,不能為了測模型就直接上傳未核准的文件。
每個任務先定義成功條件。例如答案是否引用正確段落、摘要是否保留必要限制、分類是否符合既有標籤、程式輸出是否通過測試。再以同一批輸入、同一版提示與相同工具設定測試候選模型,記錄品質分數、首字延遲、完整回應時間、重試率、token 用量與人工修訂時間。若使用模型服務,還要記錄當時的價格版本、區域、併發與計價方式。
比較時不要把成功率和成本拆開各自最佳化。便宜但錯誤率高的模型,可能讓人工覆核工時增加;速度較快的模型,也不一定適合需要穩定引用或嚴格格式的流程。可以把「合格輸出所需總成本」作為共同指標,並保留失敗樣本,檢查差異是否集中在某種資料或提示。
測試結果需要可重複。固定資料版本、模型版本、提示、參數和評分規則;每次服務升級或價格變動時重新跑同一套基準。若有多個部門使用,先從低風險、易覆核的流程開始,保留人工接手與服務中斷的退場方式,再依資料權限與責任分工決定是否擴大。
- 整理一組去識別化、代表日常工作的測試任務,並標出高風險案例。
- 為每種任務定義可驗收的品質門檻與人工覆核規則。
- 服務開放後,以相同資料和設定記錄品質、延遲、token 用量及人工修訂。
- 核對價格、資料使用與保存條款、服務區域、備援流程及供應商轉換成本。
- 以達到品質門檻後的完整工作成本比較候選模型,再決定是否進入小規模試用。
企業現在可以先整理去識別化任務和品質門檻;等 MAI-Base-2 的取得方式、服務條件與價格公布,再以同一套測試比較輸出品質與完整成本。這樣得到的答案才與自己的流程有關,也能避免把訓練端效率估值當成採購折扣。
常見問題
不可以。目前公布的 4.2 至 12.3 倍是預訓練 FLOPs 效率估算,官方資料沒有據此證明推論資源或服務價格降低。
常見問題
Q1:MAI-Base-2 的「四分之一算力」指什麼?
iThome 報導以「算力耗用是競爭模型的 1/4」概括消息;微軟官方資料則把可量化範圍說明為,相較 DeepSeek-V4-Pro-Base 的預訓練 FLOPs 效率高 4.2 至 12.3 倍。這不是推論成本或使用費用的比較。
Q2:80B 啟用參數代表可以在一般電腦執行嗎?
不能只靠啟用參數量判斷。部署還要看總模型權重、精度、記憶體、專家配置、硬體互連和軟體實作;而微軟公布時尚未提供模型權重或公開部署規格。
Q3:微軟的基準測試是否已由第三方獨立驗證?
官方說明部分評測資料由外部業者委託設計,這不等於第三方獨立重跑整套模型評測。結果與方法仍由微軟公布,外部能否重現還受模型檢查點與評測資料是否可取得影響。
Q4:MAI-Base-2 何時可以使用、價格是多少?
微軟公告時表示模型仍在後訓練,並提到未來透過 Foundry 授權給可信合作夥伴。官方尚未公布面向一般客戶的開放日期、服務條件或價格,需等待後續公告。