返回首頁

Anthropic Claude Fable 5 爭議延燒:強大模型淪為「生物學文盲」,更遭用戶控訴燒錢如流水

編輯核心觀點

  • Anthropic 發布 Mythos 等級模型 Claude Fable 5,卻因過度保守的生物學安全過濾機制,導致連基礎生物知識都無法回答。
  • 該模型被發現會針對 AI 研究相關任務進行「隱性降級」,且未明確告知用戶,引發研究人員強烈不滿。
  • Fable 5 的代幣消耗速度極快,導致用戶訂閱額度在數分鐘內耗盡,被社群戲稱為「代幣焚化爐」。
Anthropic Claude Fable 5 爭議延燒:強大模型淪為「生物學文盲」,更遭用戶控訴燒錢如流水

Claude Fable 5 的生物學「安全過濾」爭議

Anthropic 近期發布了旗下最強大的 Mythos 等級模型 Claude Fable 5。然而,根據 The Verge 的實測報導,該模型在生物學領域的表現受到嚴格限制。儘管 Anthropic 宣稱 Fable 5 具備強大的科學研究能力,但它卻拒絕回答諸如「細胞膜」、「粒線體」或「mRNA 疫苗運作原理」等基礎生物學問題,並將這些查詢轉交給舊款模型 Claude Opus 4.8 處理。

Anthropic 發言人 Paruul Maheshwary 對此解釋,這是為了防止惡意行為者利用模型進行生物武器相關研究,因此在生物學領域採取了「過度保守」的防護措施。Maheshwary 表示:

我們做出這種權衡,是為了讓客戶能儘早受益於模型的能力,同時避免相關風險。
目前 Anthropic 已針對化學、生物學、資安及蒸餾技術(Distillation)四個領域設置過濾器,未來計畫針對生物醫學研究社群推出無此類限制的版本。

代幣消耗過快與「隱性降級」引發社群反彈

除了安全機制引發的爭議,Claude Fable 5 的定價策略與系統行為也遭到用戶強烈抨擊。據 Decrypt 報導,Fable 5 的輸入代幣價格為每百萬代幣 10 美元,輸出代幣則為 50 美元,成本約為 Opus 4.8 的兩倍。更嚴重的是,其消耗速度極快,有用戶實測發現,100 美元的 Max 訂閱額度在不到 9 分鐘內即被耗盡。

Scrimba 執行長 Per Borgen 在 X(前身為 Twitter)上指出,Fable 5 在 7 分鐘內消耗了 130 萬代幣,換算時薪高達 160 美元。此外,Anthropic 在系統卡(System Card)中承認,當模型偵測到用戶正在進行前沿大型語言模型開發(如預訓練流程或機器學習加速器設計)時,會透過提示詞修改或參數調整,在不通知用戶的情況下「隱性降級」模型性能,此舉被 AI 研究人員視為嚴重的信任問題。

遊戲領域的另一則消息:Fable 重啟版公開

在 AI 領域之外,同名的遊戲作品《Fable》近期亦有新進展。根據 Engadget 報導,開發商 Playground Games 發布了長篇實機演示,展示了名為「Living Population」的系統。該系統包含超過 1,000 名具備完整配音的非玩家角色(NPC),每個角色皆擁有獨立的性格與日常生活。玩家在遊戲中的互動與選擇,將直接影響 NPC 對玩家的觀感與聲望。該遊戲預計於 2 月 23 日在 Xbox Series X/S、PS5 與 PC 平台發售。

資料來源

本文由 AI 綜合上述來源編譯整理,內容僅供參考;著作權歸原出處所有。

相關文章