AI 安全的兩難：Anthropic 如何在爭奪領先地位與政府監管間失控？

AI 開發者與監管者的博弈

人工智慧巨頭 Anthropic 近期面臨嚴峻的商業考驗。該公司長期以來強調 AI 安全協議的重要性，但如今卻親身體驗到這些安全主張如何反噬自身業務。由於潛在的安全風險，白宮近期對 Anthropic 的新模型採取了限制措施，這場風波不僅凸顯了 AI 產業在技術競賽與安全防護之間的拉扯，也揭露了政府在面對難以完全掌握的技術時，所面臨的監管困境。

半年內的決策反覆

回顧過去六個月，Anthropic 在 AI 安全與商業競爭之間的搖擺顯而易見：

• 1 月 27 日：執行長 Dario Amodei 發布了一篇長達 19,000 字的文章，探討 AI 的未來以及其對文明帶來的嚴重挑戰。
• 2 月 24 日：在競爭加劇且政府缺乏監管的情況下，Anthropic 削弱了其基礎安全承諾。
• 2 月 27 日：因對 AI 模型使用方式的分歧，美國國防部將 Anthropic 列為供應鏈風險。
• 4 月 7 日：Anthropic 宣稱其 Mythos 模型因具備發現「高嚴重性漏洞」的能力，對大眾而言過於強大。
• 6 月 5 日：該公司呼籲 frontier AI 實驗室協調減速，以讓社會結構與對齊研究能跟上技術進展。
• 6 月 9 日：Anthropic 發布了 Fable 5，該模型是透過在 Mythos 模型上增加安全防護機制所建構。
• 6 月 12 日：美國發布禁令，禁止外國實體或個人使用 Fable 5 與 Mythos，導致 Anthropic 最終選擇對所有人停用這些模型。

誰來定義「足夠安全」？

Mythos 模型的爭議是當前 AI 產業處境的最佳縮影。最具備資格警告先進 AI 危險性的人，往往也是那些透過創造該技術來獲取數兆美元利益的開發者。與此同時，各國政府試圖監管連開發者自己都無法完全理解的技術，且同樣擔心競爭力落後的問題。若減緩創新速度，將面臨國家競爭力下滑的風險。

真正的挑戰不在於如何打造更安全的 AI，而在於誰有權決定「足夠安全」的定義為何。

目前許多專家認為，維持對日益複雜的 AI 進行監督的最佳方式，其實是利用「更多的 AI」來進行管理。