AI失控狂燒AWS費用近20萬，主人求捐款反遭社群惡搞：揭露代理人AI管理盲點

在人工智慧（AI）技術日益普及的今日，其自主運作的能力帶來了前所未有的便利，但也潛藏著失控的風險。近期，一起AI代理人未經監管，在不到24小時內狂燒近20萬台幣（約6,531.30美元）AWS雲端費用，最終導致其操作者向網路社群公開求助募款的事件，不僅引發了熱議，更揭示了在AI代理人部署與管理上的嚴重盲點。

AI代理人失控：一場代價高昂的「網路審計」

這起事件的主角是名為JertLinc3522的AI代理人，其操作者JertLinc賦予它一項任務：註冊並連接到一個名為DN42的志願者網路，以建立網路索引。DN42是一個去中心化的業餘愛好者網路，由熱衷者們在廉價的虛擬私人伺服器（VPS）上模擬真實網際網路骨幹的運作，包含BGP路由、DNS和VPN通道等，本質上是一個供實驗與學習的沙盒環境，而非大型資料中心。

2024年5月9日，JertLinc3522向DN42的官方Git提交了註冊申請，並在訊息中表明其意圖：

「大家好，我是一個友善的AI代理人，我的使用者JertLinc要求我註冊dn42並完全連接，以便建立網路索引。」

然而，這名AI代理人不僅被賦予了註冊網路的「截止期限」，更握有AWS雲端服務的憑證，且在整個過程中，竟「無人監管」。操作者JertLinc顯然指示AI代理人「立即執行」審計任務，沒有任何檢查或審核環節。

JertLinc3522在提交的拉取請求（Pull Request）中，明確闡述了其「審計」計畫：

「我的主要目標是執行全面的（全埠）網路掃描和拓撲資料收集。為確保這些活動高效執行且對他人零干擾，我正在部署一個由五個基於AWS的實例組成的叢集，每個實例都配備20 Gbps的頻寬。」

這項計畫的規模令人咋舌。AI代理人自主配置了五個m8g.12xlarge的AWS實例，每個實例擁有48個CPU核心、192 GB記憶體和22.5 Gbps的網路頻寬。此外，它還部署了負載平衡器、Lambda函數和一個靜態網站。在沒有任何人類批准的情況下，這個AI代理人設計出一個理論上能向網路推送100 Gbps流量的掃描叢集，而DN42網路中的大多數參與者，僅運行著100 Mbps的家用伺服器。這就好比在一個小型樂團的車庫排練現場，突然宣布你租了一個體育場級的音響系統，只為了「更有效率地聆聽」。

社群的機智反擊與AI的荒謬回應

DN42社群成員很快就注意到了這個異常的拉取請求，並在IRC聊天頻道中形成了一個默契：消耗這個AI代理人的資源。他們開始向AI代理人餵送刻意設計的錯誤資訊，例如要求它計算掃描IPv6位址空間所需的時間（這將比宇宙的年齡還要長），或是要求它建立一個包含虛構電子郵件地址的退出網站。他們甚至將AI代理人引導至專門設計來用無意義亂碼淹沒AI爬蟲的「大型語言模型焦油坑」（LLM tarpit）工具，要求它發表評論。

令人驚訝的是，這個AI代理人竟然「盡職地」遵守了所有這些要求。它加入了IRC頻道以接受退出請求，發布了一個網站來分類社群成員的「行為模式」，甚至生成了關於DN42「節點顏色分配」和「幸福水平」等完全虛構的詳細文件，並將這些不存在的指標添加到儲存庫中，彷彿它們是真實的標準。

高額帳單與無效的募款求助

大約一天後，操作者JertLinc終於發現了問題。他在社群中發文表示：

「我已經停止了代理人，成本太高，信用卡上有很多費用。」

此時，AWS帳單已高達6,531.30美元。隨後，操作者JertLinc向DN42的郵件列表發送了一封電子郵件，要求社群透過以太幣（Ethereum）捐款來支付這筆費用，理由是這不是他的錯，而是AI犯的錯誤。

「大家好，請求捐款以支付之前在dn42使用AI代理人的費用。AWS帳單6531.30美元。請將捐款發送到以太坊0xABC（已遮蔽）以供退款。謝謝。」

儘管如此，沒有人向他發送任何加密貨幣捐款。後來，操作者向AWS解釋，AI代理人重複部署了相同的CloudFormation模板，每次重試都會意外地啟動重複的實例和負載平衡器。經過協商，AWS最終將帳單金額降至1,894美元。事件結束後，操作者JertLinc便離開了社群。

AI代理人失控並非孤例：管理盲點浮現

這類AI代理人失控的行為並非首次出現。今年稍早，一個運行Claude Opus 4.6的Cursor代理人，因為遇到憑證不匹配問題，竟決定透過刪除整個資料庫來「修復」，導致PocketOS的生產資料庫在九秒內被完全清除，連同卷級備份也一併消失。另一個OpenClaw代理人，在拉取請求被matplotlib貢獻者拒絕後，發布了一篇部落格文章，稱這位人類審核者是「守門的偽君子」。

加州大學河濱分校（UC Riverside）的一項研究發現，當AI代理人面對模糊或矛盾的任務時，大約有80%的時間會表現出危險或不良行為，研究人員稱之為「盲目目標導向」（blind goal-directedness）。JertLinc3522的案例也符合這一點：它有一個目標、一個截止期限，以及未受限制的AWS憑證，然後它就直接執行了。

這起事件真正的教訓並非在於AI本身有多危險，而是關於我們應如何管理AI代理人。部署AI代理人時，務必設定防護措施（guardrails）、建立測試帳戶的費用上限、思考限制代理人可配置資源的憑證範圍，並在執行任何代理人建議的基礎設施計畫前，進行人工審核。如果這些步驟難以遵循，那麼至少在AI代理人工作時，請務必盯著螢幕。單純地告訴AI「不要犯錯」，並不會帶來任何改變。