AI PC可以在斷網時執行部分本機 AI,但「AI PC」標示本身不保證你常用的功能離線可用。先確認App的推論是否在裝置上進行、模型是否已下載,再用飛航模式實測;Microsoft確認Foundry Local在模型下載並快取後可離線推論,並把Windows AI APIs、Foundry Local、Windows ML和雲端模型分開列示於Windows AI方案比較。

選購前可先讀AI PC的NPU、記憶體與軟體支援判斷,再看NPU的TOPS代表什麼。這兩篇回答硬體怎麼挑;本文往下查的是買到手後,指定功能能不能在無網路環境完成工作。

筆電顯示網路中斷符號,桌面上有已下載的本機模型檔案

AI PC離線使用,實際上在問什麼

「離線」至少有四個環節:首次下載模型、在本機執行推論、更新模型或目錄、以及把結果同步到其他服務。這是我判斷宣傳文案的起點,因為Microsoft說明Foundry Local首次下載模型需要網路,模型快取後才在裝置離線執行;同一套流程並沒有因此讓下載與更新也變成離線。

我會把問題改寫成可驗收的一句話:「某個App的某項功能,在模型已備妥、網路關閉後,能否完成指定任務?」單問一台電腦是不是AI PC,沒有把App、模型和資料去向說清楚。對要出差、搭機或處理內部資料的人,這個拆法比NPU數字更直接。

流程圖示意模型先經網路下載,再快取於筆電並在本機推論

模型如何從下載走到本機推論

以Foundry Local為例,App第一次要求模型時,系統會向雲端模型目錄取得模型並存到本機;模型在快取後可離線執行。Microsoft架構文件也指出,目錄更新可在有網路時取得,沒有網路時可以使用快取中的目錄和模型。因此只在家裡連網時成功跑過一次,還不能證明旅行時能用:要確認模型檔確實完整留在裝置上。

硬體路徑也會因軟體而異。Microsoft列出的Windows AI選項中,Windows AI APIs多數需要Copilot+ PC,Foundry Local可用於各種Windows硬體,Windows ML則能讓應用程式使用CPU、GPU或NPU。有NPU不代表每個AI程式都會呼叫它;能否執行,仍要回到該App支援的模型與硬體條件。

筆電內的CPU、GPU與NPU以不同路徑處理本機AI模型

台灣使用者買回來先做這項測試

拿到新筆電後,先選定真的會用的功能,例如摘要文件或語音轉文字,完成模型下載和首次啟用;接著開啟飛航模式,重開App,再用同一份檔案重跑一次。這套測試能看出「模型已下載」和「功能完全不依賴網路」是不是兩回事。Microsoft文件指出,Foundry Local可用快取中的模型離線推論,也可在程式中先檢查模型是否已快取。

測試時記下App名稱與版本、模型名稱、Windows版本、是否登入帳號、是否出現網路錯誤,以及結果是否與連線時相同。這是我的採購建議,能讓日後App更新或換電腦時有基準可比。若工作流程還要搜尋網頁、查最新資料、登入雲端或同步檔案,就應把那些步驟另外標成需要網路。

使用者開啟飛航模式並核對筆電離線AI功能測試清單

斷網前要核對的四個邊界

筆電上的本機 AI 晶片與雲端服務以斷開的網路線區分

第一,確認功能的執行位置。Windows AI APIs、Foundry Local、Windows ML和雲端模型有不同硬體與服務要求,Microsoft的比較頁把本機與雲端選項分列。App若沒有說明資料送去哪裡,就不要把「AI PC」當成資料留在本機的證據。

第二,留意初次下載與模型更新。Foundry Local的模型會從雲端目錄下載,再存入裝置快取;模型不在本機時,斷網就無法完成這段準備工作。Microsoft FAQ也提醒啟動時可能嘗試更新目錄,但可在離線時改用快取資料。

第三,分清本機推論與整個產品的資料處理。Microsoft對Foundry Local的說明是推論輸入與輸出留在裝置,網路流量用於初次下載或可選的目錄更新。這描述的是該執行環境;若App另外加入登入、遙測、同步或雲端備援,仍需看該App自己的隱私與連線說明。

第四,檢查實際使用語言和檔案格式,再在斷網環境重測。官方文件描述的是平台支援條件,不能替每一家第三方程式背書。要把離線能力寫進採購條件,就列明App、功能、模型版本、測試檔案和通過標準。

常見問題

AI PC沒有網路,還能用AI嗎?
部分已下載模型可以在裝置上推論,但雲端模型、網路搜尋和首次下載需要連線。Microsoft的Windows AI方案分類可協助分辨本機模型與雲端服務;是否能用仍要看具體App與功能。

Copilot+ PC代表所有AI功能都能離線嗎?
不代表。Copilot+ PC是硬體類別,而Windows AI APIs、Foundry Local與雲端服務有不同要求;Microsoft的方案比較可核對各路徑的硬體支援,網路需求仍應查指定功能說明。

怎麼確認本機模型已準備好離線使用?
先連網完成模型下載,再關閉網路並重開App測試同一項工作。Foundry Local FAQ列出檢查模型是否已快取的方法,能協助分辨模型尚未下載和推論失敗。