Anthropic 執行長疾呼嚴管 AI，卻同步釋出強大模型：是為安全，還是「恐懼行銷」？

人工智慧（AI）技術的飛速發展，正以前所未有的速度改寫產業格局，但也同時引發了關於其潛在風險的深切擔憂。在這一背景下，AI 領頭羊 Anthropic 的執行長達里歐·阿莫迪（Dario Amodei）近日發出嚴正警告，呼籲各國政府必須立即採取更具約束力的監管措施，以應對日益強大的 AI 模型。然而，諷刺的是，Anthropic 本身也正同步擴大其尖端 AI 模型的應用，並準備上市，這使得這場關於 AI 安全與監管的辯論，更添複雜與矛盾。

AI 發展「閃電般快速」：Amodei 疾呼 FAA 式監管

阿莫迪週三發表了一篇名為《AI 指數級發展的政策》（Policy on the AI Exponential）的論文，明確指出政府不能再將 AI 監管視為一個僅需研究的問題，美國必須為最強大的 AI 模型制定具約束力的安全要求。他強調，單純的透明度要求已不足以應對當前挑戰。

「AI 正以閃電般的速度進步——僅僅四年，AI 模型就從幾乎無法寫出連貫的程式碼，發展到能撰寫主要 AI 公司的大部分程式碼。」

阿莫迪在論文中指出，他的提案借鑒了美國聯邦航空總署（Federal Aviation Administration, FAA）的監管架構，主張對尖端 AI 模型進行嚴格的技術測試和審計。

「尖端 AI 模型，就像飛機一樣，應該被要求通過技術測試和審計，如果它們未能達到高標準的安全要求，其發布就應該被阻止或撤銷，因為這對公共安全構成威脅。」

他進一步表示，雖然他樂見川普政府的行政命令在 AI 監管中賦予政府更大角色，但 Anthropic 的提案建議採取更進一步的行動。

Anthropic 的監管框架與產品發布：矛盾與爭議

根據阿莫迪的提案，未來的監管框架應要求對先進 AI 模型進行強制性的第三方測試，並賦予政府阻止不安全部署的權力。此外，提案也要求 AI 公司必須保護模型權重、進行安全測試，並報告嚴重事件。除了技術安全，阿莫迪也呼籲各國政府應為 AI 帶來的大規模失業做好準備，並應限制 AI 在國內執法中的監控與自主武器應用，同時加強民主國家在關鍵 AI 技術上的合作。

「首先，持續的失業是不可取且危險的，我們應該盡一切努力將其最小化或阻止，而不是促成它。其次，任何應對 AI 導致失業的措施，都需要同時解決為所有人提供經濟保障的需求，以及人們尋找意義、目的和自主性的需求。」

然而，就在阿莫迪發表這篇呼籲嚴格監管的論文的同一週，Anthropic 卻同步擴大了其強大 AI 模型的應用。週二，Anthropic 推出了 Claude Mythos 5，這是一款專為網路安全組織和政府合作夥伴設計的受限尖端 AI 模型。研究人員，包括英國 AI 安全研究所（UK’s AI Security Institute），發現該模型能夠自主執行複雜的網路攻擊。

此外，Anthropic 也推出了 Claude Fable 5，這是 Claude Mythos 5 的公開版本。為了防範濫用，Fable 5 會將涉及網路安全、生物學、化學和 AI 開發的某些請求，轉發給能力較弱的 Claude Opus 4.8 處理。然而，Fable 5 的推出也引發了開發者和研究人員的批評，原因包括其更高的代幣使用量、強制性的 30 天數據保留要求，以及在未通知用戶的情況下降低模型能力的安全措施。

值得注意的是，阿莫迪提出這些政策變革呼籲之際，Anthropic 正準備公開上市。本月初，該公司已向美國證券交易委員會（U.S. Securities and Exchange Commission）提交了首次公開募股（IPO）文件，此前據報導，該公司在 H 輪融資中籌集了 650 億美元，估值高達 9650 億美元。

「恐懼行銷」的指控與 AI 領袖的責任

儘管阿莫迪將此議題定調為技術進步與公共政策之間的競賽，但批評者質疑，呼籲更嚴格的 AI 監管是否真正服務於公共利益。今年四月，OpenAI 執行長山姆·阿特曼（Sam Altman）就曾指責 Anthropic 利用「恐懼行銷」來推廣 Claude Mythos，認為對先進 AI 的擔憂可能被用來合理化將技術控制權集中在少數公司手中的行為。