語音代理回答得慢,原因可能在收音、轉錄、代理推理、工具呼叫或語音播放。Microsoft AI 近期推出 MAI-Transcribe-2-Streaming、MAI-Voice-2.1 與 MAI-Voice-2.1-Flash,分別處理即時語音轉文字與文字轉語音;是否能讓整段對話更順,仍要看各元件接起來後的實測。模型公布的延遲或準確度,不能直接當成整套代理的表現。
一、語音代理的停頓,問題出在哪個環節?
語音代理的等待時間由收音和傳輸、辨識、代理推理、工具呼叫、語音生成及播放共同構成,轉錄模型只是其中一段。
使用者說完後,系統常須判斷一句話是否結束,再把辨識結果交給語言模型。若回答還要查資料、呼叫外部工具或等待服務回傳,語音合成就得等前面的工作完成。每一段都可能增加停頓;替換轉錄模型只會改變其中一個環節。
串流轉錄的做法,是音訊持續送出時先回傳暫時文字,後續再更新辨識結果,並在語句或片段完成時提供確認文字。Microsoft 文件描述 MAI-Transcribe-2-Streaming 會在說話期間提供增量轉錄,完成結果則用來確認片段。這讓代理有機會提早判讀,但暫時文字仍可能被修正,不應把尚未穩定的內容直接當成指令執行。
「中間結果會更新目前的轉錄,最終結果則確認各個片段。」— Microsoft Learn,MAI-Transcribe-2-Streaming 概覽
這裡要區分「模型開始回傳文字的時間」和「使用者聽到完整回答的時間」。前者可以提早,後者還包括代理決策、工具回應和音訊播放。產品展示的單次模型延遲,也未必包含網路往返、排隊、重試或本地裝置處理。
二、MAI 新模型分別負責聽與說
MAI-Transcribe-2 面向音檔轉錄,Streaming 面向持續輸入並逐步回傳文字;MAI-Voice-2.1 著重語音表達,Flash 則針對低延遲互動與大量生成情境。
MAI-Transcribe-2 適合處理已錄好的音檔,例如會議紀錄、訪談或通話結束後的逐字稿。Microsoft 的 Azure Speech 文件列出說話者區分、時間戳記、自動語言識別等能力。這類工作可在音檔送達後產生完整結果,適合不必邊說邊顯示文字的流程。
MAI-Transcribe-2-Streaming 則接受持續音訊串流,輸出會隨說話過程逐步更新,應用程式可同時接收暫時與確認後的文字。這種模式適用語音助理、即時字幕或互動介面。兩者的輸入方式與使用時機不同,不能只因名稱相近,就預設批次轉錄的測試結果能代表串流情境。
MAI-Voice-2.1 是文字轉語音(TTS),把代理生成的文字轉成語音;Microsoft 將一般版定位在高表達度與長篇內容。MAI-Voice-2.1-Flash 同樣負責合成,產品文件將它定位於回應時間敏感、生成量較大的使用情境。兩者的品質與速度取捨,應以實際輸出和服務條件比較,不宜只憑「高保真」或「低延遲」等產品用語決定。
| 模型 | 主要輸入與輸出 | 適合先評估的工作 | 導入時要留意 |
|---|---|---|---|
| MAI-Transcribe-2 | 音檔轉文字 | 錄音完成後的逐字稿或紀錄 | 不代表即時串流延遲 |
| MAI-Transcribe-2-Streaming | 持續音訊轉文字 | 即時字幕、語音代理輸入 | 暫時文字可能修訂;確認服務預覽與區域 |
| MAI-Voice-2.1 | 文字轉語音 | 長篇朗讀、重視表達的內容 | 評估語言、發音、語調及成本 |
| MAI-Voice-2.1-Flash | 文字轉語音 | 互動式代理或大量合成 | 實測延遲與音質是否符合情境 |
Microsoft 在產品公告中表示,MAI-Voice-2.1-Flash 可在其指定測試條件下,以約 150 毫秒端到端延遲生成 45 秒音訊。這是廠商公告的模型測試資訊,不能解讀為語音代理從使用者開口到聽見回答只需 150 毫秒。實際流程還有辨識、推理、網路和播放;測試資料、負載與量測起訖點也會影響結果。
三、接入後的等待時間要看整段系統
不一定。串流轉錄可能讓文字較早可用,但整段回應仍受網路、判斷語句結束、代理推理、工具服務、合成與播放時間影響。
可先把流程拆成幾個有時間戳記的節點:麥克風收音開始、音訊送出、第一段暫時轉錄、確認文字、代理開始推理、工具回傳、第一段合成音訊到達,以及裝置開始播放。每次對話記錄這些節點,才能看出使用者感受到的空白主要出現在哪裡。測試時也要記錄失敗、重試和排隊時間,不只挑成功且順利的一次。
串流輸出的暫時文字可能修訂,因此「能提早看見」不等於「能提早執行」。若辨識結果涉及金額、日期、人名、地址或具外部影響的操作,可以先等確認文字,或要求使用者核對後再呼叫工具。較低風險的流程則可先用部分結果預備查詢,等確認後才提交動作。這是系統設計上的取捨,須依錯誤代價定義門檻。
根因也可能不在模型。例如網路封包太大、音訊切段過長、代理每輪都等待完整逐字稿,或工具 API 反應不穩,都會抵銷串流帶來的時間優勢。若使用者等的是查詢完成,縮短語音生成時間也不會處理真正的瓶頸。將各段拆開量測,比單看一個「快幾倍」的宣稱更能指導改善。

四、台灣語言表現與服務條件要逐項驗證
不代表。語言清單只能說明文件列出的支援範圍,台灣繁體中文、台灣口音、台英混說、專有名詞及環境噪音仍須用目標使用者的樣本驗證。
產品資料中的「Chinese」或中文語音選項,未必代表繁體字輸出、台灣詞彙和在地口音都經過獨立評測。導入前可準備經授權且具代表性的測試音檔,涵蓋不同年齡與說話速度、台語或英文夾用、產品與人名、數字日期、電話雜音及遠近麥克風。人工逐句對照轉錄,分開記下漏字、錯字、語言切換錯誤,以及暫時文字改動的次數;合成語音則由台灣使用者聽辨字音、語調、停頓和數字讀法。
Microsoft 文件列出 MAI-Transcribe-2-Streaming 支援多種語言與自動偵測,但這項產品支援聲明不是台灣場域準確率測試。MAI-Voice 的語言和語音選項也應以當下官方清單為準,再由目標使用者確認聽感。若場景常遇到藥名、地址或專有名詞,測試詞表應放入真實工作內容,而不只使用朗讀標準句。
服務條件同樣會影響決策。Microsoft Learn 目前將 MAI-Transcribe-2-Streaming、MAI-Voice-2.1 與 MAI-Voice-2.1-Flash 標示為公開預覽;這些產品文件均註明沒有服務水準協議(SLA),且不建議用於正式工作負載。文件所列服務區域也可能更新;企業需在實際開通前核對 Foundry 或 Azure Speech 的接入方式、目標區域、流量限制、計價單位、預覽條款、資料處理與支援承諾。不要把「可全球存取」直接理解為資料一定在指定地區處理,應向服務文件確認路由和資料條款。
資料治理要從音訊進入服務的那一刻開始盤點。錄音是否含有姓名、聯絡方式或其他可識別資訊?哪些音訊會送到雲端,是否保留轉錄文字、暫時結果或除錯紀錄?不同資料的保存期限、刪除方式、管理者權限和稽核紀錄,也要納入供應商審查。若對話涉及客戶或員工資料,先確認告知、用途、存取權限與刪除要求,再選擇試點資料範圍。
計價也需按自己的使用量換算。Microsoft 公告曾列出 MAI-Transcribe-2-Streaming 的期間限定音訊小時價格,並列出 Flash 的字元計價資訊;這些廠商公布的價格可能受優惠期限、幣別、區域、稅費或產品變更影響。實際比較時,把平均通話長度、每次輸入音訊、輸出字數、重試比例和尖峰流量放進同一份成本估算,再以帳單或報價核對。預覽服務條款與價格頁都應在接入當下重新確認。
「此預覽未提供服務水準協議,且不建議用於正式工作負載。」— Microsoft Learn,MAI-Transcribe-2-Streaming 文件
五、用試點數據決定是否值得導入
先用代表性語音樣本建立現況基準,再以相同流程比較延遲、辨識錯誤、語音品質、穩定性與每次對話成本,達到預設門檻後才擴大試用。
試點可先限定在非高風險、可人工覆核的流程。測量從開口到第一段可用文字、從語句結束到確認轉錄、工具完成時間、第一段音訊播放時間,以及使用者打斷或重問的頻率。辨識品質要同時看最後轉錄錯誤與暫時文字修訂;合成品質可由目標使用者評分自然度、清晰度和在地口音適配。測試應在預期的裝置、網路和並發量下重複,並記錄分布而非只報平均值。
指標可再按使用者感受分層,例如看回應時間的中位數與較慢的一成對話,並記錄不同噪音、口音和裝置下的辨識錯誤。平均值可能掩蓋少數很慢或錯得較多的互動;若語音代理用於客服,還可觀察使用者重複說明、要求轉人工和中途掛斷的比例。這些資料能協助判斷模型改善是否真正減少等待與返工。
成本估算也要納入完整路徑,不要只計模型標價。音訊轉錄與文字合成可能採不同計價單位,語言模型推理、工具服務、儲存、網路流量和人工覆核亦會產生成本。把每次對話的輸入秒數、輸出字數、平均重試次數及每月使用量放入估算,並保留不同流量情境的結果。若測試只涵蓋短句或低並發,應先補測尖峰和較長對話,再決定是否擴大。
可執行的評估順序是:
- 先記錄現有系統每段延遲、錯誤率和成本,定義改善門檻與停止條件。
- 以相同語音樣本和工作流程比較 MAI-Transcribe-2、Streaming 或既有服務,檢查台灣中文與語碼轉換表現。
- 比較 MAI-Voice-2.1 與 Flash 的語音品質、開始播放時間及實際計價,納入重試與尖峰流量。
- 核對服務區域、預覽狀態、SLA、資料保存和刪除條款;未符合需求時不放入正式或敏感流程。
聲音複製可以是可選設計,不是每個代理都需要的功能。使用真人參考音檔建立合成聲音前,須確認聲音本人清楚同意用途、使用範圍與期限,約定撤回和刪除流程,並限制哪些帳號可建立、調用或匯出模型。聲音可被用來冒充本人,產品也應評估身分提示、濫用監測與事故處理方式。Microsoft 對特定自訂語音功能要求取得聲音人才的明確書面許可;實際使用 MAI 個人聲音功能時,仍應以該功能當下適用的官方條款確認要求。

評估結果應能回答三個問題:瓶頸是否真的在轉錄或合成、改善是否在目標語言和網路條件下重現、以及節省的等待是否值得新增的服務費與治理工作。先以代表性的台灣語音樣本建立基準,分段測量辨識、代理推理與播放耗時,再依品質、服務條件和每次對話成本決定是否試點。模型更新後也要重跑同一組基準,避免版本變動讓已驗證的結果失去參考性。
- Streaming 讓轉錄文字可逐步到達,暫時結果仍可能修訂。
- 模型延遲不等於代理端到端延遲,應分段記錄時間與錯誤。
- 多語言支援不代表台灣口音和繁體中文品質已驗證。
- 公開預覽的區域、價格、資料條款與 SLA 要在接入時重新核實。
- 聲音複製需有明確授權、用途限制、存取控制及撤回流程。
常見問題
Q1:MAI-Transcribe-2-Streaming 可以直接取代 MAI-Transcribe-2 嗎?
不一定。Streaming 適合即時音訊和逐步回傳文字;MAI-Transcribe-2 可處理已錄製音檔。應依是否需要即時結果、整合方式及服務條件選擇。
Q2:串流轉錄的部分文字可以直接觸發工具嗎?
要看錯誤後果。部分文字可能被更新;涉及付款、個資或不可逆操作時,可等確認文字或由使用者核對後再執行。
Q3:MAI 語音模型已確認支援台灣繁體中文嗎?
支援語言清單不足以證明台灣繁體中文、口音和用詞都符合需求。應以目標使用者的語音樣本測試辨識與合成,並查看當下官方語言清單。
Q4:公開預覽可以直接放進正式服務嗎?
MAI-Transcribe-2-Streaming 文件目前註明預覽沒有 SLA,且不建議用於正式工作負載。是否採用要先確認最新條款、區域供應和組織對服務風險的要求。
參考來源
- Microsoft AI (2026). [Our first streaming transcription model debuts at no. 1 on Artificial Analysis](). Microsoft AI
- Microsoft Learn. [MAI-Transcribe-2-Streaming overview](). Microsoft Learn
- Microsoft Learn. [MAI-Transcribe-2](). Microsoft Learn
- Microsoft Learn. [MAI-Voice-2.1 and MAI-Voice-2.1-Flash](). Microsoft Learn
- Microsoft Azure. [Azure Speech in Foundry Tools pricing](). Microsoft Azure
- Microsoft Learn. [Disclosure for voice and avatar talent](). Microsoft Learn