眼鏡上的 AI 能不能完全離線？PrismML 與 Qualcomm 在 Snapdragon Summit 展示 Bonsai 模型於 Snapdragon AR1 Gen 1 智慧眼鏡平台本地運作，但這是技術展示，並非市售產品，也不能推論所有功能都能斷網使用。判斷端側 AI 是否實用，還要看模型、硬體限制與資料流。

PrismML 這次把小型語言模型帶進智慧眼鏡晶片平台。眼鏡比手機更受記憶體、電力和散熱空間限制，這次展示因此聚焦模型如何配合晶片平台運作，以及資料如何處理。

PrismML 這次把模型整合到哪裡？

PrismML 與 Qualcomm 展示 Bonsai 模型在 Snapdragon AR1 Gen 1 平台本地執行，模型設計用於視覺與語言任務。這是晶片平台上的技術展示，尚未代表已有搭載它的消費型眼鏡。

Snapdragon AR1 Gen 1 是智慧眼鏡平台。PrismML 表示，雙方針對 Qualcomm Hexagon NPU（神經網路處理器，專門加速 AI 運算的硬體）調整模型權重與架構，讓 Bonsai 在平台上本地推論，也就是在裝置讀取輸入並產生結果。「本地」不代表照片、語音、使用紀錄或診斷遙測都留在眼鏡。

本次展示使用的 Bonsai 是 2B 視覺語言模型（同時處理影像與文字的模型），由 1.7B 的 1-bit 語言模型和 0.3B 的 4-bit 視覺編碼器組成。前者負責語言生成與推理，後者把相機影像轉成模型能處理的視覺表示。1-bit 與 4-bit 指不同部分的權重精度，不能說整個 2B 模型都採 1-bit。

PrismML 和 Qualcomm 描述的使用情境，是佩戴者詢問眼前所見，由模型依影像脈絡回應。公開資訊沒有完整市售功能清單，也缺少長時間佩戴、不同光線及不同眼鏡機種的獨立測試。AR1 Gen 1 規格雖另列視覺搜尋、即時翻譯，不能據此認定 PrismML 展示已完成這些功能。

「智慧眼鏡把這項挑戰具體化：視覺能提供大量情境資訊，但裝置能用來理解資訊的資源非常有限。」— PrismML 共同創辦人暨執行長 Babak Hassibi（依 PrismML 公告翻譯）

眼鏡相機帶來視覺脈絡，機身卻難以容納手機或伺服器等級的電力與散熱能力。模型縮小有機會把運算放到裝置端，仍須配合晶片、軟體與使用流程。

為什麼智慧眼鏡需要更小的模型？

眼鏡的記憶體、電池容量與散熱空間都有限，模型必須在這些限制內維持可接受的反應速度與續航。模型壓縮能減少部分資源需求，仍不能保證每種任務都能流暢執行。

眼鏡還要處理相機、麥克風、連線與顯示，無法像桌機長時間接電或加裝散熱。模型占用記憶體會擠壓其他功能空間，持續運算也會增加耗電與熱量，影響舒適度、續航和效能。參數量因此不能單獨代表使用體驗。

量化（以較少位元表示模型權重、降低儲存和運算需求）是其中一種縮減方式。PrismML 宣稱，在相同記憶體限制下，1-bit Bonsai 可容納的模型參數量約為部分既有眼鏡形式的四倍。這是廠商對特定技術與產品形式的比較，不代表所有現有眼鏡都經過相同實測，也不代表每副眼鏡都能增加四倍模型容量。

數字來自 Qualcomm 的特定測試：AR1 Gen 1、4GB 記憶體、1024-token 上下文及支援 1-bit kernel 的內部 QNN SDK。該配置下，1.7B 語言模型的權重記憶體為 0.43GB，4-bit 版本為 1.66GB；生成速度分別為每秒 15.36 與 7.44 個 token。這些是語言模型權重的數字，不是整個 Bonsai 2B 視覺語言模型或眼鏡應用的總記憶體；相機影像處理、視覺編碼器、作業系統與其他應用也要使用記憶體。測試結果不能直接推廣至其他眼鏡或任務，應用還需要額外空間載入模型、保留輸入與生成內容。

兩組長條比較 1-bit 與 4-bit 語言模型的權重記憶體和每秒生成 token 數
在這組特定測試中，1-bit 語言模型的權重記憶體較小，生成速度也較快；這些數字不代表整副眼鏡的總資源需求。

模型與硬體協同設計，是依晶片與軟體支援調整模型執行方式。PrismML 表示 Bonsai 針對 Hexagon NPU 最佳化，但不同晶片、SDK、核心支援或模型版本可能有不同結果。產品還得驗證模型載入、記憶體管理、相機輸入與更新機制。

「我們與 Qualcomm Technologies 合作，依照這些限制設計 Bonsai。」— PrismML 共同創辦人暨執行長 Babak Hassibi（依 PrismML 公告翻譯）

這段引言是廠商對設計方向的描述，不能取代耗電、溫度與續航的長期實測。商品化還需評估待機耗電、連續運算溫升、不同環境下的表現，以及語音與影像輸入的負載。短時間回答一句「這是什麼物品」，與持續分析鏡頭畫面，對處理器占用、電池與散熱的要求不同；若產品讓相機長時間開啟，還要量測待機與連續推論兩種狀態，而不能只引用模型生成文字時的速度。

輸入本身也會改變資源需求。單張照片或短片段可先由視覺編碼器轉成特徵，再交給語言模型回答；若每隔一段時間擷取畫面，需考慮影像解析度、取樣頻率及連續推論的累積耗電。想在眼前辨認路標，若標誌已拍清楚且不需更新資料，流程可能較短；若詢問店家是否營業，還須取得即時營業資訊，單靠裝置內模型未必能回答。這些情境是用來拆解工作負載的例子，並非 PrismML 公告的實測功能。

哪些工作適合留在眼鏡，哪些仍要雲端？

延遲敏感、輸入可在裝置上取得且運算量符合硬體限制的任務，較適合評估放在眼鏡端；需要最新外部資料或更大規模運算的任務，可能仍需雲端服務。實際分工取決於產品設計，這是架構判讀，並非 PrismML 已公布的完整功能表。

例如，辨識眼前物件並回答簡單問題，若模型與記憶體需求符合裝置能力，可在眼鏡完成部分流程，減少影像往返遠端的等待，也可能在網路不穩時保留局部功能。結果仍受相機畫質、光線和軟體調校影響，端側不保證答案正確或即時。

查詢最新路況、店家資訊、網頁或大量文件，通常需透過手機或網路連遠端服務；複雜推理也可能超出眼鏡的資源限制。混合架構可先在本機處理，再把必要內容交給雲端，但 PrismML 尚未公布零售產品的資料路由。

判斷面向眼鏡端處理雲端處理
網路依賴在已下載模型與必要功能可用時，部分工作可能離線執行通常需要網路與可用的遠端服務
反應時間可減少往返伺服器的等待，仍受本機效能影響另有上傳、排隊與下載結果的時間
可用資料主要受本機模型與已存資料限制可連接較新的外部資訊或較大型服務
資料處理推論可在本機完成，儲存、遙測仍須另行確認需了解上傳內容、保存方式與服務條款
維護方式模型與軟體需隨產品更新服務端可更新，功能也會受供應商服務狀態影響

這是一般架構比較，非 PrismML 成品測量。產品可能把影像前處理、語音辨識、推論與回答生成分散在眼鏡、手機和雲端，需逐項確認資料流。

流程圖分別呈現眼鏡端推論與經手機連線至雲端的路徑，並標出上傳、儲存和遙測檢查點
判斷資料是否離開眼鏡，要逐段確認輸入、推論、儲存與回傳方式。

隱私判斷也要拆成不同環節。模型推論在眼鏡執行，與相機畫面是否寫入儲存空間、語音是否保留、診斷資料是否回傳、雲端功能是否傳送內容，是不同問題。相機與麥克風可能接觸佩戴者及旁人資料；廠商若未說明保存、刪除、遙測和上傳條件，就不能只依「端側 AI」推斷資料不會離開裝置。使用者可先閱讀產品隱私政策，確認影像與語音是否保存、保存多久、如何刪除，以及診斷資料是否會上傳；初次設定時也應查看相機與麥克風的啟用提示、錄影指示和權限選項。若設定頁沒有說明何時傳送資料，可先停用非必要的雲端功能，再向供應商查詢具體資料流，避免把本機推論誤當成所有資料都只留在裝置。

從展示到產品，部署成本還有哪些？

TechCrunch 報導指出，尚未公布搭載 PrismML 的市售眼鏡；目前也欠缺長時間續航、散熱和獨立測試資料。評估成熟度應同時看產品供應、實際軟硬體配置、功能邊界和資料政策。

這類展示通常還要經過產品整合與驗證：相機、麥克風、裝置端軟體、NPU 執行環境、手機配對及雲端服務需要協同運作。TechCrunch 當時報導尚未公布搭載 PrismML 的眼鏡型號，公告也未列上市時間或消費者規格。一般使用者因而無從確認台灣售價、通路、保固與維修方式，繁體中文介面或服務區域也未交代。這些條件會影響能否實際使用，晶片平台支援模型推論不能代表產品已可購買。

整合完成後，產品仍須交代模型與軟體更新如何維持、舊裝置支援多久，以及更新是否會改變資料處理方式。消費者也要知道斷網時哪些功能會停用、雲端服務中止後裝置是否仍能使用，這些售後條件會影響眼鏡的可用年限。

評估產品時可逐項確認：晶片、模型版本及裝置端功能；影像、聲音和紀錄的儲存或上傳方式；斷網時功能與手機連線需求；更新支援時間及雲端服務中止後的替代方式。再對照不同任務的測試條件、續航和溫度實測，判斷是否符合使用需求。

取得模型權重也要看清授權範圍。PrismML 先前公布的 Bonsai 1.7B 語言模型以 Apache 2.0 授權提供下載；但這不等於本次針對眼鏡平台組成的 Bonsai 2B 視覺語言模型、整合程式與裝置韌體都適用相同條款。展示公告沒有列出這個整合版本的權重下載方式或授權條款，因此開發者若要商用，仍需向 PrismML 確認模型、視覺編碼器及執行程式各自的授權；一般消費者則要等到具體產品發布，才能確認購買地區與使用條件。

台灣使用者還需確認繁體中文辨識、在地網路、保固維修、服務區域和帳戶可用性。展示中的視覺問答不等於商品已具備合用的中文介面與售後支援。

  • PrismML 與 Qualcomm 展示的是 Bonsai 在 Snapdragon AR1 Gen 1 平台本地運作，尚無已公布的市售搭載產品。
  • 2B 視覺語言模型由 1.7B 的 1-bit 語言模型和 0.3B 的 4-bit 視覺編碼器組成，不能把 1-bit 套用到模型每個部分。
  • 記憶體和速度數字來自特定硬體、上下文長度與軟體條件，需等待不同裝置的實測。
  • 端側推論、資料儲存、遙測及雲端功能須分開確認，才能判斷眼鏡的離線能力和資料流。

常見問題

截至 TechCrunch 2026 年 9 月 24 日報導，尚未公布搭載 PrismML 的市售智慧眼鏡。

常見問題

Q1：這次示範代表市面上已經有 PrismML 智慧眼鏡嗎？

不代表。PrismML 與 Qualcomm 展示模型在 Snapdragon AR1 Gen 1 平台本地執行，TechCrunch 報導當時尚未公布搭載 PrismML 的市售眼鏡。展示平台與可供消費者購買的產品是不同階段。

Q2：端側 AI 是否代表眼鏡完全不需要網路？

不一定。某些模型推論可以在本機完成，但查詢最新資訊、使用遠端帳戶或執行較大規模運算時，產品仍可能需要網路。還要分辨相機與麥克風資料是否儲存、回傳或用於遙測。

Q3：廠商公布的速度與記憶體數據可以直接套用到其他眼鏡嗎？

不可以直接套用。公告數據是在 Snapdragon AR1 Gen 1、4GB 記憶體配置、1024-token 上下文長度和特定 QNN 軟體支援下取得。不同晶片、模型、軟體版本與工作負載都可能改變結果。

Q4：1-bit 模型是否代表整個視覺語言模型都是 1-bit？

不代表。PrismML 公告列出的模型組成是 1.7B 的 1-bit 語言模型，加上 0.3B 的 4-bit 視覺編碼器。兩個部分的精度不同。