Liquid AI 在 LFM3-1.7B 模型卡公布的 WebArena-Verified 分數為 38.42,前代 LFM2.5-2.6B 為 3.02;同一張表列出的 Qwen3.5-9B 是 28.94。這是廠商自行公布的基準結果,測試使用代理在瀏覽器環境中完成任務,並非台灣團隊拿自家流程做出的實測。小模型在特定測試裡表現突出,確實值得留意;但它能否接手你的工作,還要看工具、資料、硬體和失敗時的處理方式。

Liquid AI 將 LFM3-1.7B 定位為本機代理、工具呼叫與結構化輸出的文字模型,Ollama 模型庫也已提供 lfm3 執行入口。讀者真正要判斷的,是它能負責代理流程中的哪一步,以及本機部署能否減少對雲端推論服務的依賴。可以先把模型、代理框架、工具和執行環境分開看,再用一項低風險任務驗證。

若還在比較本機模型的部署成本和適用工作,可先看AI 代理本機部署的成本與適用情境,再把 LFM3 放進相同的任務條件評估。

一、LFM3 的代理分數,測的是哪種能力?

它顯示模型在指定測試環境與任務設定下的表現,不等同於所有工作流程的完成率或可靠度。

WebArena-Verified 是模型卡列出的瀏覽器代理基準。Liquid AI 的表格中,LFM3-1.7B 得分 38.42,對照 LFM2.5-2.6B 的 3.02;在 BFCL V4 工具使用測試,兩者分別為 71.39 與 55.89。這是兩個不同測試,分數不能互相替代,也不能直接解讀成「代理工作正確率」。模型卡說明 WebArena 最多執行 40 個步驟;整體評估使用 vLLM 與 BF16,其他設定依各測項而異。這些條件構成了結果的適用範圍。

這是第一個可參照的真實案例:Liquid AI 將 LFM3-1.7B 放進代理與工具使用基準,並公開比較表與測試設定。它能回答模型在這些任務上的表現,沒有回答你的資料、提示、工具和權限設定下會如何。這些數字是廠商公布資料,沒有獨立重跑就應明確歸屬,不宜寫成普遍實測結論。

另一個值得看的訊號是短板。模型卡建議知識密集任務搭配檢索或搜尋,並明確表示不建議用 LFM3-1.7B 執行代理式程式工作或複雜多步推理。即使一個代理基準分數亮眼,也不代表它適合長鏈條決策、程式修改或需要大量背景知識的任務。若工作一旦出錯就會寫入正式資料、寄出訊息或觸發付款,基準分數更不能取代權限隔離和人工確認。

Liquid AI 的 LFM3-1.7B 模型卡建議,知識密集任務搭配檢索或搜尋;模型規模也使複雜多步推理與代理式程式工作需要審慎評估。

二、模型、代理框架與工具各負責什麼?

LFM3 產生工具呼叫指令;代理框架解析並執行呼叫,再把結果交回模型,實際操作仍由外部工具與執行環境完成。

「工具呼叫」是模型依照工具定義輸出一個結構化請求,例如要求搜尋網頁或讀取指定資料。工具定義告訴模型有哪些選項和參數格式;代理框架則負責轉送請求、執行工具、記錄結果,再將結果送回模型。Ollama 的模型頁列出以 ollama run lfm3 啟動模型的方式,也展示可搭配 Claude Code、OpenCode、Hermes Agent、OpenClaw 等代理入口。這是第二個實際案例:Ollama 提供模型呼叫入口和代理整合方式,但具體任務能否安全完成,還取決於所接框架及它獲准操作的工具。

因此,「模型可在本機跑」只說明推論所在位置,不代表代理每一步都留在本機。若工作流使用網路搜尋、第三方 API、雲端檔案或遠端代理框架,提示內容和工具結果仍可能離開設備。若工具可以寫檔、執行程式或呼叫外部服務,模型一次錯誤選擇就可能造成實際變更。把工具權限限縮到任務需要的範圍,設定沙盒,並要求高影響操作由人確認,才是在流程層控制風險。

本機助理的資料邊界也可參照AI 助理資料是否真的留在本機一文;若要測試工具執行隔離,可再比較本機代理與雲端沙箱的工作流差異。

也要分清 LFM3 家族型號。LFM3-1.7B 是文字模型;LFM3-VL-2B 處理文字、圖片與影片輸入,LFM3-Audio-2B 處理文字與音訊,LFM3-Omni-2B 則涵蓋多種輸入並可輸出文字與語音。家族其他型號的多模態能力,不能算到文字版 LFM3-1.7B 身上。挑模型時,先列清楚輸入輸出需求,再核對對應型號,而非只看「LFM3」這個家族名稱。

流程圖以箭頭連接本機模型、代理框架與工具沙盒,並標示可選的外部網路服務。
本機推論只界定模型所在位置,代理框架和工具仍可能把資料送往外部服務。

三、Ollama 提供入口後,部署條件仍要核對

Ollama 模型庫提供啟動方式,但實際速度、記憶體占用、量化版本與代理相容性仍依設備和軟體環境而變。

Ollama 的 LFM3 模型頁提供命令列與 API 呼叫範例,可降低開始試跑的操作門檻。Liquid AI 模型卡列出 GGUF 可用於 llama.cpp、Ollama 等執行環境,也列出 MLX、ONNX 等不同格式。這是第三個可核對的案例:模型發布後,Ollama 模型庫上架 lfm3,讓使用者能以本機服務方式呼叫;它證明有一條執行路徑,不證明所有作業系統、硬體、版本組合都具備相同效能。

部署時要把權重大小與整體記憶體分開估算。Liquid AI 表示,LFM3-1.7B 使用 4-bit 精度時約需 1 GB 記憶體;這是模型權重的概略需求,不是完整代理工作的總占用。上下文長度越長、同時載入的工具定義越多、代理保留的對話與工具結果越大,執行時需要的記憶體也會上升。量化會改變模型大小和推論資源需求,也可能影響輸出品質;應在實際設備上用相同任務比較,而非把單一規格當成保證。

圖表以約 1 GB 標示 4-bit 模型權重需求,另列參數量、上下文長度及會隨環境變動的其他資源項目。
4-bit 權重約需 1 GB 記憶體,代理實際占用還會受到上下文、工具與設備影響。

版本資訊尤其需要看清楚。文章需求列出的 Ollama v0.40.12-rc1 是預發布版本,其發布頁沒有列出 LFM3 支援項目;LFM3 的可用入口應以 Ollama 模型庫當下頁面和實際執行結果核對,不能把候選版標籤當成支援證明。Liquid AI 的模型卡也指出,GGUF 由相容的 llama.cpp 建置執行。若環境中的執行器尚未包含對應模型架構,即使權重已下載,也不表示能直接啟動。更新前確認正式版、支援格式、作業系統與硬體,再記錄測試用的模型版本與量化設定,才方便重現結果。

Liquid AI 的模型卡將 LFM3-1.7B 列為 1.73B 參數、256K token 上下文的文字模型;其推論格式和執行框架仍須依部署環境選擇。

四、哪些任務適合先交給本機代理測試?

先選低風險、可回復、輸入與完成條件明確的工作,例如格式整理、有限欄位擷取或只讀查詢。

適合先測的任務通常有三個特徵:輸入範圍固定、成功結果容易驗證、失敗後能撤回。例如把一批去識別化文字整理成固定欄位、從內部文件擷取指定資訊,或在測試環境中呼叫一個只讀工具。這些任務可看出模型是否能遵守格式、選對工具、在工具回傳錯誤時停下來。對知識密集工作,可再檢查檢索來源有無被正確引用,避免模型把記憶中的說法當成資料答案。

相反地,直接讓小模型修改正式程式碼、連續操作多個外部服務,或根據不完整資料自行做高影響決定,測試成本就高得多。LFM3-1.7B 模型卡對代理式程式工作與複雜多步推理有明確保留;這項限制應轉成任務拆分方式,例如只讓模型提出候選修改、由測試和人員檢視後再套用,而非授予它直接部署或寫入正式資料的權限。

本機推論可能降低特定工作對雲端模型服務的依賴,但不會自動免除網路、資料治理或維護工作。即使文字生成在筆電執行,搜尋服務、更新模型、同步檔案或代理介面仍可能連線。若目標是避免資料外流,就要盤點每個節點傳送什麼資料、傳給誰、保留多久,並實際檢查網路連線;僅憑「本機部署」四字無法證明流程離線。

五、用一組小型驗證流程決定是否留在本機

用同一批任務、提示和工具對照雲端與本機版本,記錄完成品質、延遲、記憶體、人工介入和資料流向。

  1. 挑一項低風險任務:限定資料範圍、工具數量與完成條件,先排除會寄信、付款或改動正式資料的操作。
  2. 建立雲端基準:用固定測例記錄完成率、工具選擇錯誤、平均耗時及人工修正次數;保留提示、工具定義和輸入版本。
  3. 以相同條件測本機版:固定模型版本、量化、上下文長度與工具,另記錄設備、記憶體峰值及是否需要外部連線。
  4. 檢查失敗路徑:刻意提供缺欄位、工具逾時或無權限的案例,確認代理會回報、停止或要求人工接手,而非繼續猜測或重複操作。
  5. 確認治理條件再擴大:閱讀模型授權,盤點輸入與工具資料流,設定最小權限、沙盒和人工覆核,再決定只移轉哪些步驟。

這套比較能把「模型夠不夠小」轉成更實際的問題:任務是否穩定完成、失敗是否可控、設備成本是否能接受,以及資料是否真的留在預期範圍。Liquid AI 的基準適合作為挑選候測模型的線索,Ollama 則提供一種本機執行入口;真正的部署決定,仍應由自己的任務紀錄和安全邊界支撐。

  • LFM3-1.7B 是主打工具呼叫的文字模型,家族其他多模態型號能力不可混算。
  • 模型基準是廠商公布的特定測試結果,不等於自家代理流程的完成率。
  • 本機推論不保證整個代理離線;工具權限、外部連線和資料流向要逐段檢查。
  • 先用可回復任務對照完成品質、延遲、記憶體、人工介入與失敗處理,再決定移轉範圍。

常見問題

Q1:LFM3-1.7B 的 256K 上下文代表能一次處理 256K 字嗎?

模型卡列出的 256K 是 token 上下文長度,不等同中文字數,也不保證特定硬體能以該長度順暢執行。輸入、工具定義、歷史紀錄和輸出都會占用上下文與記憶體。

Q2:Ollama 有 LFM3 模型,整個代理就能離線嗎?

不一定。模型可本機推論,但代理框架、搜尋、第三方 API、雲端檔案或其他工具仍可能連網。需要離線時,必須盤點並測試完整資料流。

Q3:LFM3 適合直接接管程式開發代理嗎?

Liquid AI 模型卡不建議以 LFM3-1.7B 執行代理式程式工作或複雜多步推理。若要評估,可先限定為唯讀分析或候選修改,再由測試與人工審核把關。

Q4:模型權重可下載,是否代表能不受限制地商用?

不能只從可下載推論授權範圍。模型卡列出 LFM Open License v1.0;部署或商用前應閱讀授權全文,確認使用、修改、散布與服務提供條件。