Anthropic 新模型 Claude Fable 5 引發企業恐慌：AI 治理權力落入私人企業手中？

隨著 AI 發展規則不斷變動，企業執行長正陷入一場治理困境。Anthropic 近期發布了首款 Mythos 等級模型 Claude Fable 5，卻引發了金融服務業高層的強烈反彈。一位受訪的金融業執行長直言，他並不擔心 AI 被用來製造武器，而是厭倦了企業必須不斷應對這些層出不窮、難以管理的 AI 工具與變數。

隱蔽的限制機制與治理挑戰

Claude Fable 5 的推出，成為企業採用 AI 時面臨新現實的典型案例。該模型在資安等領域會自動阻擋回應，甚至限制 AI 研究人員與開發者的操作能力。然而，問題在於這些限制是隱蔽執行的，系統並未提供明確的警示或透明度，使用者往往無法得知何時會收到品質低落的回應，僅能從系統卡（system card）中得知這種情況隨時可能發生。

此外，數據留存政策也成為企業導入的絆腳石。雖然醫療機構如 Banner Health 的執行長 Amy Perry 曾因 Anthropic 模型具備 HIPAA 合規性及「零數據留存」特性而選擇採用，但 Claude Fable 5 卻改為 30 天數據留存期。據報導，這項變更已導致微軟（Microsoft）等企業開始限制員工使用該模型。

專家警告：AI 模型不應由私人企業單方面定義

特拉維夫 Lionsgate Intelligence Network 執行長 Bezalel Eithan Raviv 對於這類產品缺乏防護機制提出嚴厲批評。他認為，Anthropic 實際上已經成為了 AI 領域的「裁判與劊子手」。

Anthropic 官方已經成為某種程度上的裁判與劊子手，他們決定了什麼是正確或錯誤的標準，儘管這是一個沒人同意過的標準。

Raviv 強調，這些模型更像是貨幣或武器，而非普通的商業產品，因此應受到更嚴格的監管。他指出，私人企業為了追求股東利潤最大化，其開發的模型已達到連開發者自身都無法預測下一步的地步，這對資安環境構成了極大風險，因為網路犯罪分子正利用這些強大工具進行複雜的攻擊。