澳洲皇家飛行醫師服務與 IBM 合作測試 Granite Speech，將飛行醫療人員在機艙噪音中的口述照護紀錄轉為電子病歷；IBM 報告稱，原型讓每位病患的行政紀錄時間由 28 分鐘降至 2 分鐘。[5] IBM 於 2026 年 10 月 29 日發布 Granite Switch 4.1.1，稱此版本與 4.1 向後相容、無須遷移，但同時更新 Granite Speech 語音辨識模型與 granitelib-core 的 Decision adapter。既有 API 使用者仍須確認「相容」是否涵蓋自家程式解析的回應、語音轉錄品質與下游決策流程？

這個問題和模型能否啟動不同。即使 endpoint 沿用，adapter 更新也可能改變特定輸出的內容或分布；如果下游依賴固定欄位、格式或門檻，服務正常回應仍不代表產品流程符合原先預期。版本驗收要同時看介面契約與實際使用結果。

若要先回顧 4.1 的單一端點設計，可參考Granite Switch 4.1 如何整合聊天、決策與語音；語音模型工作的分工與測試，也可對照Granite Speech 5.0 的模型與驗收重點。

Granite Switch 4.1.1 更新了什麼？

IBM 表示 base model 未重新計算，更新集中在 Granite Speech ASR 模型與 Decision adapter；Decision Index 的表現改善是官方描述，公告沒有列出改善分數。

ASR 與 Decision adapter 的變動範圍

ASR 是自動語音辨識（automatic speech recognition），負責把語音轉成文字。IBM 的 4.1.1 發布公告稱新版支援 10 種語言，並加入原生標點與大小寫處理；目前的 8B 模型卡則列出 7 種語言。公告與模型卡的規格數字不一致，因此不能把 10 種語言視為已確認的 8B 版本能力。部署前應以實際使用的模型版本及其更新文件確認支援範圍，並用目標語言測試轉錄結果。

Decision adapter 則是決策用的模型介接模組。IBM 稱更新後在 Jev Decision Index 測試集的整體表現改善，但未公布本次版本的分數、前後差距或各測試項目細節。因此不能把「改善」換算成自家分類、路由或審核任務的準確率提升。

南非 Blue Pearl 與 IBM Client Engineering 以 Granite 建立職缺生成與履歷配對概念驗證；IBM 報告稱，平均補職時間從約 21 天降至 3 天內，篩選履歷則從每人約 90 分鐘縮短至 3 分鐘。[6]

IBM 表示，ESPN Fantasy app 每年服務 1,200 萬名使用者；IBM 與 ESPN 在球員評分旁加入 Granite 生成的自然語言「主要影響因素」，並依球隊名單個人化說明。[7]

IBM 在 4.1.1 公告中將本次更新描述為「base model 維持不變，更新集中在新 ASR 模型與 Decision adapter」。這是發布方對模型組成的說明，並不等同於所有使用者的部署設定都不必調整。

Base model 未變，仍須檢查組合

目前的 Granite Switch 4.1 8B 模型卡標示為 revision 4.1.1，列出 Decision adapter 在 Jev Decision Index v0.3 公開測試集的整體分數 46.72（以 100 為尺度）。這是具體版本與評測流程下的結果；單一分數無法預測團隊自己的分類、路由或審核任務，也不足以證明不同執行環境的實際成效。

模型更新的根因常在版本組合，而不只在權重。推論端點是接收請求並執行模型的服務介面；adapter、模型模板、執行框架和請求格式共同決定輸出。若部署清單只記「Granite Switch 4.1」，日後便難以確認實際載入哪個 adapter、採用哪種模板，或重現一次輸出差異。

推論端點以箭頭連接 base model、ASR、Decision adapter、執行環境與下游應用。
Base model 維持不變仍不足以保證輸出一致，adapter、執行環境與下游程式共同構成實際部署組合。

「向後相容、免遷移」要拆成哪些 API 檢查？

逐項比對 endpoint、請求與回應欄位、adapter 啟用方式、推論環境和版本鎖定設定，再依正在使用的功能核對部署文件。

Endpoint、請求欄位與回應格式

先保存目前呼叫的 endpoint、HTTP 方法、認證方式、模型識別字、請求欄位與錯誤回應。升級後以同一組請求比對狀態碼、回應結構、欄位型別、空值處理和逾時行為。不要只看 API 有回應，也要確認程式解析器沒有因欄位缺漏或格式變化而走到錯誤分支。

若服務同時接收文字與音訊，應分別測試兩種請求，以及同一請求內含文字和音訊的情況。音訊格式、語言標記、長度上限與轉錄結果放入對話上下文的方式，都可能影響後續模型呼叫。實際支援條件以所用模型卡、執行框架文件和部署設定為準，不能從「單一端點」推定每種環境都有相同能力。

Adapter、執行環境與版本組合

確認 adapter 是內嵌於組合模型、獨立載入，還是透過控制 token 啟用；並核對載入名稱、模板、推論框架版本與啟動參數。若從本地推論改成託管服務，或以不同的 vLLM、Transformers 版本執行，應視為不同部署組合，分別驗收。

可參考 Granite Switch 的官方模型卡與建置檔，確認目前發布模型列出的 base model、內嵌 adapter 和後端支援；這些資料有助於定位待比對項目，不能代替自家部署設定的盤點。每次測試記錄模型與 adapter 的精確版本或提交識別碼，避免「最新版」成為無法重現的標籤。

怎麼驗收更新後的語音與決策輸出？

用更新前已保存的固定案例，逐項比較轉錄、決策結果、錯誤處理與下游服務收到的資料，並以產品可接受的門檻判定。

用固定案例比對更新前後結果

先挑選具代表性的輸入：常見語音、背景噪音或口音情境、轉錄中有專有名詞的片段，以及不同難度的決策案例。若產品依賴標點、大小寫、數字或專有名詞，應將它們列為單獨檢查項目。記錄每筆輸入、預期輸出、實際輸出與人工判讀結果，保持更新前後的輸入一致。

對決策輸出，除了最後選項，也要看各選項的分數或機率分布、低信心案例和邊界輸入。若系統會依分數觸發拒答、人工覆核或轉交其他服務，必須用既有門檻重跑，檢查流量分配是否改變。模型卡上的公開測試分數，不能取代這種與產品任務相符的測試。

IBM 的發布公告稱 Decision Index 整體表現改善，但沒有列出幅度；目前 8B 模型卡另列 4.1.1 的 46.72 分，卻沒有在同一頁提供可直接對照的 4.1 基準。公告也未證明所有執行環境都能不改設定直接升級。這些資料界定了可確認的範圍，實際相容性、效能和輸出差異仍須依部署組合測試。

檢查下游流程、錯誤處理與紀錄

把轉錄或決策結果一路追到使用它的下游服務，核對欄位、格式、排序、門檻與空值行為。若輸出會建立工單、分類請求、篩選內容或觸發自動處理，測試案例還要覆蓋重試、逾時、無法解析及模型拒答等路徑。服務可用率與流程正確性是兩種不同驗收結果。

測試資料若含使用者內容或敏感資訊，應依產品的資料治理與存取規則處理，控制可讀取範圍與保存時間。比較報告可保留去識別化案例編號、版本資訊、指標和判定，不必將不必要的原始內容複製到一般紀錄中。

Granite Switch 4.1 8B 模型卡將 Decision Index 結果限定在公開 fast subset 的測試條件下，並說明其分數依該評測流程計算。這類數據適合界定測試範圍，不宜直接外推到不同任務或資料分布。

固定語音與決策案例分別跑過更新前後版本，再依序檢查輸出、下游結果與驗收或回退條件。
固定案例能揭露更新前後的輸出差異，只有下游流程與預設門檻也通過，才適合擴大部署。

如何部署、設定回退條件並保留責任紀錄？

先在隔離環境或小流量部署，預先定義擴大與回退條件，保存舊版組合並演練還原。

小流量發布與回退演練

在正式切換前，讓新版本先接受離線測試，再以隔離流量或小比例請求觀察。逐步擴大時，持續查看轉錄品質、決策分布、錯誤率、延遲與下游流程結果。何時停止或回退，應在發布前依產品風險定義，例如關鍵欄位解析失敗、人工覆核量超過門檻，或特定任務的錯誤率明顯高於基準。

回退要能恢復完整組合，不只把模型檔換回去。需確認舊版模型、adapter、程式映像、模板、環境參數和資料格式仍可取得，並實際演練重新部署、流量切回與狀態確認。若新舊版本輸出格式不同，也要確認回退後下游服務能再次接收舊格式。

版本清單與驗收紀錄

驗收紀錄至少包含 endpoint、模型版本、adapter 版本、執行框架、程式與設定識別碼、測試資料版本、結果指標、核准人與回退方式。將通過條件寫成可以重跑的項目，讓下一次升級能沿用基準，而不是只依賴「這次看起來正常」的口頭判斷。

部署前可用一張清單收尾：列出目前 endpoint、模型及 adapter 版本；保存更新前基準案例；核對請求、回應與下游欄位；測試語音及決策輸出；確認敏感資料處理；最後演練回退。結果符合預設門檻才擴大部署，否則保留舊版並查明差異。

  1. 盤點 endpoint、模型、adapter、推論框架、模板及下游依賴。
  2. 保存固定測試案例與更新前指標，標註各項可接受門檻。
  3. 在隔離或小流量環境比較欄位、轉錄、決策分布、錯誤與下游結果。
  4. 記錄完整版本組合，演練切回舊版；按預設門檻決定擴量或回退。
  • IBM 稱 Granite Switch 4.1.1 與 4.1 向後相容，但這不等於已驗證每個使用者的部署組合。
  • 公告未列 Decision Index 的改善分數；模型卡數字只適用於其記載的模型與評測條件。
  • 驗收要涵蓋 API 契約、語音與決策輸出、下游流程、敏感資料處理及完整回退演練。

常見問題

當固定案例、下游流程與預設門檻都通過小流量驗收，且回退演練可正常還原時，才擴大部署。

Q1：Granite Switch 4.1.1 一定可以直接替換 4.1 嗎？

IBM 稱此版本向後相容且無須遷移，但各團隊仍須核對實際 endpoint、adapter、推論環境和下游依賴。發布方的相容性說明不能代替部署驗收。

Q2：Decision adapter 的表現提升多少？

4.1.1 公告只稱 Jev Decision Index 測試集整體表現改善，未提供本次版本的改善幅度。不可據此推估特定產品任務的準確率變化。

Q3：base model 沒變，為什麼仍要跑回歸測試？

ASR 和 Decision adapter 已更新，且產品輸出會經過模板、執行框架與下游程式。回歸測試用來確認整個組合仍符合預期，不只確認 base model 名稱相同。

Q4：小團隊至少要保存哪些升級資料？

保存模型與 adapter 版本、執行設定、固定測試案例、更新前後結果、核准條件及舊版還原步驟。若案例含敏感資料，依產品治理規則限制存取與留存。