← 返回首頁

Meta Muse Glimmer 亮相:300 億參數開放模型,將祖克柏的「個人超級智慧」願景帶入你我裝置

重點摘要

  • ✦Meta 發表 Muse Glimmer 300 億參數開放權重模型,旨在讓 AI 代理在消費級硬體上本地運行,實現馬克.祖克柏的「個人超級智慧」願景。
  • ✦Glimmer 透過 4 位元量化與 DFlash 加速技術,成功在單一消費級 GPU 或 Mac 上執行多步驟任務,支援文字與圖像輸入,並具備離線運作能力。
  • ✦Meta 自行公布的基準顯示,此模型在部分代理協調與推理任務領先比較模型;同時也揭示 Meta 在開放 AI 與內部控制之間劃分的策略界線。
Meta Muse Glimmer 亮相:300 億參數開放模型,將祖克柏的「個人超級智慧」願景帶入你我裝置

Meta 於近期發布了 Muse Glimmer,這是一個具備 300 億參數的開放權重(open-weight)多模態 AI 模型。其核心目標是讓 AI 代理(AI agents)能在個人消費級硬體上本地運行,無需依賴雲端運算,為執行長馬克.祖克柏(Mark Zuckerberg)所描繪的「個人超級智慧」(personal superintelligence)願景,提供了迄今最清晰的實踐藍圖。Glimmer 源自 Meta 更強大的閉源模型 Muse Spark,並以寬鬆的 Apache 2.0 授權開放,讓開發者能自由下載與修改。

Meta 的「個人超級智慧」願景

祖克柏曾多次闡述其對先進 AI 的看法:AI 應賦予個人權力,而非僅集中在少數公司手中。他也在最新的一封信中重申此願景,強調廣泛分發超級智慧:

「有潛力開啟一個個人賦權的新時代,讓個人能運用這項強大的新能力,充分發揮潛力、追求興趣,並以前所未有的方式改善他們的生活與世界。」

祖克柏列舉了多種改善生活的方式,從提供「全天候為你服務,改善你的人際關係、健康、事業、財務、家庭管理、嗜好等等」的個人代理,到協助人們創建新事業或推動科學進步的工具。他承諾「每個人都能免費或以負擔得起的價格使用這些工具」。

Glimmer 的設計理念與此願景高度契合:它能在使用者裝置上處理資訊,而非將資料傳輸至雲端,從而奠定更注重隱私的個人代理基礎。此外,Glimmer 具備「隨時在線」(always-on)能力,無論有無網路連線,都能「隨時隨地」運作。

然而,TechCrunch 指出,使用權並不等同於所有權。Meta 區分了開放模型(如 Glimmer)與其掌控下的更強大模型(如 Muse Spark),這暗示了 Meta 在開放 AI 與保留核心技術之間的策略界線。

Glimmer 的技術突破與應用潛力

Muse Glimmer 是一個 300 億參數的多模態模型,專為「隨時在線」的本地代理工作流程而調校。

技術挑戰與解決方案

通常,300 億參數的模型需要超過 55 GB 的記憶體才能以全精度運行。Meta 透過將模型壓縮至約 4 位元精度,成功將語言模型部分所需的記憶體降至 20 GB 以下,使其能在單一消費級 GPU(如 24 GB 或 32 GB 顯示記憶體)或 M4/M5 Max Mac 上運行。

  • Meta 提供了兩種量化版本:K-Quant-Dynamic 針對 32 GB VRAM,平均準確度下降 0.2%;K-Quant-17GB 針對 24 GB VRAM,平均準確度下降 1.0%。

速度提升

為確保模型能足夠快速地響應,Meta 導入了名為 DFlash 的區塊級推測解碼器(block-level speculative decoding)。DFlash 是一個區塊擴散草稿器(block-diffusion drafter),能在單次前向傳遞中預測 16 個詞元(tokens),而主模型則同時驗證該區塊。

  • 根據 Meta 測量,在 RTX 5090 上,K-Quant-17GB 的吞吐量從 74.9 tok/s 提升至 233.4 tok/s,速度提升 3.1 倍。在 Apple M5 Max 上,從 26.6 tok/s 提升至 50.2 tok/s;M4 Max 則從 23.7 tok/s 提升至 37.8 tok/s。

應用場景

Glimmer 旨在執行多步驟任務,例如呼叫工具、編寫與偵錯程式碼、處理檔案和螢幕截圖,以及在擴展工作流程中執行任務。Meta 設想 Glimmer 可用於管理日程、起草訊息、組織文件等需要大量個人資料存取權限的任務。MarkTechPost 則列舉了更廣泛的應用,包括:讀取螢幕截圖的桌面代理、程式碼代理、基於模式(schema-based)的函數呼叫、文件與圖表理解、合成資料生成,以及作為評估工具的 LLM。

目標用戶與產業

  • 獨立開發者與新創公司:可在配備 24 GB GPU 或 M4/M5 Max Mac 的裝置上運行。
  • 中型市場團隊:實現內部部署推論(on-prem inference),避免按詞元計費。
  • 受監管企業:獲得可氣隙隔離(air-gappable)的代理,適用於資料駐留、離線操作或低延遲至關重要的場景。
  • 產業:醫療保健、法律、金融服務、國防與公共部門、製造業以及現場服務。Meta 建議在部署模型時,應增加系統級防護措施。

模型架構與訓練

Muse Glimmer 是一個稠密因果轉換器(dense causal transformer),配備專用的感知編碼器(perception encoder)。總參數約 300 億,包含視覺塔(vision tower)。其分組查詢注意力(Grouped-query attention)使用 32 個查詢頭和 2 個 KV 頭,注意力機制以 [局部、局部、局部、全域] 的模式重複,滑動窗口為 2,048。旋轉位置嵌入(RoPE)僅應用於局部層。

視覺側是一個約 18 億參數的 ViT-G/14 感知編碼器,每個圖像最多可接受 4,096 個視覺詞元。上下文長度為 131,072+,詞彙量為 202,048 詞元,知識截止日期為 2026 年 1 月 4 日。輸入為文字和圖像,輸出為文字。不支援音訊,影片則作為獨立影格處理。

訓練過程分為三個階段:

  1. 預訓練(Pre-training):使用 Muse Spark 輸出的 logit 蒸餾(logit distillation)。
  2. 中期訓練(Mid-training):添加了更長上下文、代理密集型(agent-heavy)資料,並包含更豐富的推理軌跡。
  3. 後期訓練(Post-training):結合了監督式微調(supervised fine-tuning)與策略內蒸餾(on-policy distillation),以及跨通用、推理、程式碼和代理領域的強化學習。

效能與安全評測

Meta 將 Muse Glimmer 在「思考模式」(thinking mode)下與 Gemma4-31B 和 Qwen3.6-27B 進行比較;以下數字來自 Meta 的測試設定,不等同於獨立第三方實測,跨模型結果仍會受提示、框架與硬體配置影響。

  • 表現優勢:Glimmer 在多項基準測試中領先,包括 MCP Atlas(75.5 分,對比 54.2 和 62.5)、DeepSearch QA(74.6)、Gaia2(43.3)和 SWE-Bench Pro(51.2)。
  • 推理分數:在 AIME 2026 達到 94.7、IFBench 77.0、AA-LCR 80.0。
  • 表現劣勢:Glimmer 在 OSWorld-Verified(65.9 對比 Qwen3.6-27B 的 75.6)、TerminalBench 2.1(60.7)和 SWE-Bench Verified(77.2)等電腦使用和終端機工作相關的基準測試中落後於 Qwen3.6-27B。

依 Meta 公布的這組測試,Glimmer 在代理協調(agentic orchestration)和推理(reasoning)的部分項目領先,但在電腦使用和終端機工作項目落後;這比較適合用來理解模型定位,而不是直接推定所有實際工作負載的勝負。

安全性方面,在 Siren AgentDojo 攻擊成功率為 28.4(實用性 94.2)。Meta 表示該模型未達到其「先進 AI 擴展框架」(Advanced AI Scaling Framework)中「前沿 AI」(Frontier AI)的定義,並將化學/生物、網路和失控風險評為中等或更低。

結語:開放與掌控的界線

Muse Glimmer 的發布,不僅展示了 Meta 在將大型 AI 模型推向個人裝置的技術實力,也為祖克柏的「個人超級智慧」願景勾勒出具體輪廓。它作為 Meta 首個開放權重、能在消費級硬體上本地運行的代理模型,明確劃分了 Meta 願意開放給開發者和用戶「擁有」的 AI 類型,與其仍將「掌控」的更強大智慧之間的界線。這項策略性的區分,將是未來觀察 Meta 如何平衡 AI 普及化與技術控制的關鍵指標。

資料來源

本文由 AI 綜合上述來源編譯整理,內容僅供參考;著作權歸原出處所有。

相關文章