Reflection Beam 是一款面向程式工程、推理與多步驟代理工作的開放權重模型。Ollama 自 2026 年 10 月 16 日起,限時透過 Ollama Cloud 免費提供 Beam;Reflection 同日在官方部落格發布〈Beam is now available〉,宣布模型權重已在 Hugging Face 公開下載。

兩種取得方式容易混為一談:Cloud 是由服務端執行模型,下載權重則要自行準備推論環境。對團隊而言,先用雲端試做任務可以降低初步評估門檻,但免費存取不等於本機部署沒有成本,也無法直接證明 Beam 適合既有流程。

Beam 501B 發布與 Ollama 限時供應,取得方式有何不同?

不代表。 Ollama 公告的是 Ollama Cloud 限時免費存取,使用者可從應用程式或終端機呼叫雲端模型;自行下載權重運行,仍須負擔硬體、電力、儲存與維運成本。

Reflection 於 2026 年 10 月 5 日先發表 Beam 模型,10 月 16 日才宣布權重已上架 Hugging Face,並以 Apache 2.0 授權發布。模型可下載、自行評估、客製或接入代理系統;Hugging Face 同日也發布技術介紹文章,說明 transformers、vLLM 與 SGLang 的首日支援。

Ollama 的合作公告同日說明,Beam 可透過 ollama run beam:cloud 使用,服務端提供零資料保留(ZDR)設定。

這是 Ollama 對其 Cloud 端點的描述,使用者仍應查閱服務條款、資料處理政策及免費方案的有效期限;服務端條件不能直接套用到自管環境。

「開放權重」指模型參數可取得,讓使用者在符合授權與使用政策的前提下部署或調整。它不自動代表訓練資料、所有開發工具或雲端服務也都開放。開放原始碼促進會(OSI)的開源 AI 定義就要求,可供修改的形式須包含訓練資料資訊、完整程式碼與模型參數。

採用前應分別確認權重授權、使用政策、推論軟體授權,以及團隊部署方式。Apache 2.0 是模型卡列出的權重授權,模型卡另提醒使用者自行確認隱私、出口管制等適用規範。依 Apache 2.0 條款,修改與再散布時須附上授權副本,並在改過的檔案註明變更。

免費 Cloud 端點適合先試提示、工具呼叫和任務流程,不必先採購 GPU 或管理推論服務。它仍受供應商服務狀態、免費期限、流量限制與條款約束。

自管則把更多控制權交給團隊,也把容量規劃、版本更新、存取控管、監控與故障處理一併交到團隊手上。兩者解決的問題不同,不能只用「免費」作為部署選擇。

Beam 的能力定位,適合哪些實際工作?

Beam 的官方定位集中在程式工程、推理和長流程代理任務。 這些能力描述與 benchmark 目前主要來自 Reflection 的發布資料和模型卡,實際中文表現與團隊任務成功率仍須自行測試。

Beam 採稀疏混合專家架構(Mixture of Experts,MoE):模型共有約 501.3B 個參數,每個 token 約啟用 23.4B 個參數。模型會依輸入選用部分專家網路執行運算,降低每個 token 的計算量;但運算量降低不會按比例縮小需載入的完整權重。

啟用參數反映部分計算需求,權重容量仍與完整模型有關,因此不能據此推斷只需 23B 級別的記憶體即可載入模型。

Reflection 將 Beam 描述為文字輸入、文字輸出的模型,面向程式碼撰寫與維護、終端機和開發流程操作、多步驟工具使用,以及數學與科學推理。

模型卡列出 100 萬 token 的上下文長度,並註明模型主要以英文開發。上下文上限是可接受輸入長度的規格,不等於每個服務都會預設開到上限,也不保證長文件處理品質或中文任務效果。

「Beam 是一款稀疏混合專家模型,總參數為 5010 億、啟用參數為 230 億。」— Reflection,Beam 模型卡(作者方規格)

模型卡列有多項程式、推理及工具使用測試結果,測試涵蓋不同資料集與指標,並公布 BF16、FP8、NVFP4 等數值格式結果。這些分數可協助挑選要驗證的任務,不能直接換算成團隊的程式缺陷修復率、代理成功率或每月成本。

結果也會受測試框架、提示、工具權限、上下文、硬體與量化方式影響。模型卡標示的 benchmark 是模型提供方公布的資料;截至模型卡頁面所示,技術報告仍標為待發布,獨立驗證與完整方法細節仍需留意後續資料。

輸入 token 經路由器分配至部分專家網路,圖中標示總參數與每個 token 的啟用參數。
每個 token 只啟用部分專家運算,完整權重仍須納入容量估算。

開放權重不代表部署成本低,硬體要怎麼估?

不能只看 23.4B 啟用參數估容量。 Beam 完整權重約有 501.3B 參數,格式精度會改變權重大小;實際服務還要預留上下文快取、推論中間資料與並行請求所需的記憶體。

粗略換算參數本身的儲存量,若以 BF16 每參數 2 bytes 計算,501.3B 參數約需 1 TB 十進位容量;FP8 約為其一半,NVFP4 的理論值更低。這只是未計索引、對齊、執行環境和額外緩衝區的估算,不能直接當成 GPU 採購規格。

不同權重檔、量化實作與推論引擎也會改變實際佔用。Reflection 表示提供 BF16、FP8、NVFP4 權重,但可用格式與相容性仍應以下載版本和推論框架文件核對。

上下文長度會推高鍵值快取(KV cache)需求。當輸入文件變長、同時服務的使用者增加,記憶體需求也會上升;為了回應更快而增加並行量,還可能壓縮單次請求可用的資源。

推論速度則受 GPU 型號與數量、頻寬、推論核心、量化格式、輸入輸出長度和排程策略影響。團隊應依預計的請求量和回應時間目標實際測量,參數標籤無法用來推估吞吐量。

「Beam 的權重以 BF16、FP8 與 NVFP4 格式發布。」— Reflection,Beam 發布公告(作者方部署資訊)

自管服務的總持有成本還包括 GPU 租用或採購、電力與散熱、儲存、網路、推論框架升級、監控告警、資安修補、模型更新,以及有人負責故障排查的工時。

若團隊沒有長時間穩定負載、專責維運人力,或明確的資料留存需求,按量使用受管端點可能較容易先計算成本。若資料必須留在內網、需要自訂權重或要離線運行,自管才可能有額外價值,但仍須把運維成本算進去。

硬體估算還要回答服務預計每天啟動幾小時、尖峰時有多少同時請求,以及模型無回應時能否排隊或降級。短時間的個人試用和全天候多人服務,容量目標差距很大。

若原本只需要低延遲的短問答,長上下文模型的空間未必能轉成效益;若工作涉及跨檔案分析或連續工具操作,才有必要進一步測試長流程的資源曲線。

權重精度、上下文長度與並行請求指向記憶體需求,GPU 與推論條件指向吞吐量,兩者連到維運成本。
部署成本取決於資源需求與服務目標,參數標籤本身無法決定硬體規格。

接進既有模型服務前,先釐清資料、介面與責任

先確認資料會經過哪個服務端、模型介面能否配合現有工具,以及誰負責權限、日誌與故障回退。 相同模型可由 Ollama Cloud、其他託管端點或自管推論提供,但資料路徑與責任邊界並不相同。

概念驗證若使用 Ollama Cloud,需先檢查免費期間、帳號方案、可用區域、速率限制、資料保留條款與端點規格。Ollama 在公告中稱 Beam Cloud 端點採零資料保留。

對內部程式碼、客戶文件或個人資料,仍應依組織資料分級判斷能否送出,確認日誌、提示記錄與第三方整合各自如何處理。不要把單一端點的資料政策推廣成所有 Ollama 使用方式的保證。

接入代理框架時,除了檢查 API 請求與回應格式,還要測試工具呼叫的欄位、錯誤回應、長時間任務中斷後能否續跑,以及工具權限是否符合最小授權原則。

若模型可讀取程式庫、執行命令或操作客戶資料,需在代理層限制可用工具、目錄範圍和資料外傳路徑。模型回覆本身不能代替權限控管,也不應讓模型直接持有不受限制的憑證。

正式導入前應保留呼叫紀錄與成本指標,但日誌也可能存有敏感內容,須設計遮罩、存取權限、保存期限和刪除流程。另需指定模型或量化版本、推論框架版本、服務健康檢查、逾時處理與回退模型。

遇到模型端點不可用、工具呼叫失敗或延遲超標時,系統要能停止高風險動作、轉交人工或切回既有服務,避免持續重試而擴大影響。

責任分工也要在試用前確定:產品或流程負責人定義任務成功標準,平台人員檢查端點與資源,資安及法遵窗口審核資料範圍,使用部門確認錯誤的可接受程度。這能避免 PoC 僅由工程師確認模型「跑得動」,卻沒有回答資料是否能使用、輸出由誰負責、服務中斷時如何處理等採用問題。

方案資料與控制團隊主要負擔適合的起點
Ollama Cloud請求送到受管端點,依服務條款處理驗證資料政策、費用及服務限制低風險任務的快速試用
其他託管推論依供應商與合約而異比較價格、區域、SLA 和資料條款需要管理端點但不自建硬體
自管推論可控制部署環境與資料路徑硬體、資安、版本、監控和故障處理有內網、離線或客製需求且具維運能力

哪些團隊值得試用 Beam,採用前怎麼驗證?

需要程式工程、長流程工具調用或推理能力的團隊,可以先用低風險任務比較 Beam;有敏感資料的團隊應先完成資料政策審查,再決定能否使用雲端端點。 採用與否應以任務結果、延遲、成本和治理負擔共同判斷。

先選一項現有服務中成本偏高、延遲明顯,或必須跨多個工具完成的工作,整理代表性輸入、預期輸出、失敗案例和人工驗收條件。固定提示與工具版本後,再讓現行模型及 Beam 執行同一組任務。

評估的不只是答案是否看起來合理,也要計算任務完成率、人工修改時間、工具呼叫成功率、延遲分布、token 用量,以及錯誤是否造成額外操作。

測試資料最好涵蓋日常任務、邊界案例和曾經出錯的輸入,並由熟悉流程的人員盲評輸出。若任務成功必須靠人工修正,應把修正時間和審核成本一併計入;單看模型答對率,容易漏掉它造成的下游工作量。比較期間也要記錄模型版本與參數,確保後續結果可以重現。

若目標是程式代理,可挑選已去除憑證與客戶資料的程式問題,檢查修改是否通過測試、是否碰觸任務範圍之外的檔案,以及代理遇到失敗時能否停下來說明。

若測試中文客服或知識整理,應準備台灣繁體中文樣本,納入專有名詞、格式遵循、引用正確性與拒答表現。模型卡說明 Beam 主要以英文開發,這使中文測試格外重要;英文 benchmark 不能代替中文驗收。

小規模評估要先訂停止條件,例如任務成功率未達既有服務、延遲超過可接受門檻、總成本沒有改善,或治理條款不符合要求,就停止擴大使用。若 Cloud 試用表現可接受,再估算自管版本的硬體容量、量化方案、並行需求與維運人力。

完成權重授權與使用政策檢查、資料流盤點、故障回退演練之後,才進入有限範圍上線。Beam 是否值得採用,取決於它能否解決特定工作問題,以及組織是否承擔得起持續服務的責任。

  1. 挑選一項可量測、低風險且有代表性的任務,準備同一批測試輸入與人工驗收標準。
  2. 先確認雲端條款與資料分級,再用 Beam 和現行模型比較品質、延遲、工具成功率及每項任務成本。
  3. 若考慮自管,依實際權重格式、上下文、並行量與吞吐目標估算硬體,並加入維運、資安及故障回退成本。
  • Ollama Cloud 的限時免費存取是雲端試用,與下載權重自行部署分開評估。
  • Beam 的 23.4B 啟用參數不等於只需 23B 級硬體;權重容量、KV cache 和並行需求都要納入。
  • 官方 benchmark 和規格適合做測試起點,團隊仍需驗證中文、工作流程、資料治理和總持有成本。

常見問題

Q1:Beam 501B 是開源模型嗎?

Reflection 將 Beam 定義為開放權重模型,權重依 Apache 2.0 授權發布。採用者仍需閱讀授權、使用政策與所用推論軟體的條款;「開放權重」本身不表示整套服務都以相同方式開放。

Q2:Ollama 限時免費代表可以離線使用嗎?

不代表。公告提供的是 Ollama Cloud 端點,無須下載模型或管理本機推論。離線使用須另行取得權重並建立可運作的自管推論環境。

Q3:Beam 的 1M 上下文表示每次都能免費處理百萬 token 嗎?

不能這樣理解。1M 是模型卡列出的上下文長度規格,不等於端點實際預設值、費用安排或所需記憶體。可用長度和成本要依服務方案或自管設定確認。

Q4:團隊可以直接用官方 benchmark 決定採購嗎?

不建議。模型方 benchmark 提供公開測試線索,與團隊的中文資料、工具框架、硬體和驗收條件可能不同。應先用代表性任務比較品質、延遲、成本和治理工作量。