AI 淪為詐騙幫兇：Google 起訴中國犯罪集團，揭露 Gemini 助攻的網釣惡夢

AI 讓詐騙規模化：從單兵作戰到自動化網釣

過去常見的「包裹延遲」、「未繳通行費」或「點數到期」等詐騙簡訊，背後可能不再是單一駭客的手筆。隨著生成式 AI 的普及，詐騙集團正利用這項技術進行更具說服力、規模更龐大的攻擊。Google 近日向紐約聯邦法院提起訴訟，指控一個名為「Outsider Enterprise」的中國網路犯罪集團，利用 Google 的 Gemini AI 打造虛假網站，針對全球數百萬用戶進行網釣詐騙。

犯罪集團的 AI 武器庫

根據 Google 的調查，Outsider Enterprise 透過 Telegram 平台協調全球犯罪網絡，並向各地的犯罪份子散佈「釣魚工具包（phishing kits）」。該組織利用 Gemini AI 的生成能力，偽造了包括 Google、YouTube 以及美國郵政署（US Postal Service）在內的多個知名品牌網站。這種自動化流程讓他們能在短時間內建立超過 9,000 個詐騙網站，並產生超過 100 萬個惡意網址。

根據《華爾街日報》引述的數據，該犯罪集團的影響力驚人：

FBI 估計，該行動自 2023 年 7 月以來，已竊取了 387 萬筆信用卡號，全球受害者總損失金額達到 19 億美元。

在今年 6 月 1 日截止的兩週內，Outsider Enterprise 發送了 250 萬則含有惡意連結的簡訊，Android 用戶更回報了 5.5 萬則可疑簡訊。

Google 的防禦與立法訴求

為了遏止這場 AI 詐騙風暴，Google 目前正採取多管齊下的策略。除了向法院請求徹底關閉該犯罪網絡外，Google 也正與 FBI 以及 AT&T、T-Mobile、Verizon 等電信業者密切合作，試圖在惡意簡訊抵達用戶手機前進行攔截。

目前，Google 的內建訊息防禦系統每月已能攔截超過 100 億則惡意訊息，Android 的詐騙偵測工具也能即時標記可疑通話與聯絡人。然而，Google 強調，單靠法律行動與技術防禦不足以根絕威脅。該公司正積極推動美國國會通過七項跨黨派法案，旨在將這些資安保護措施制度化，以應對 AI 讓詐騙手段變得幾乎「無限制」的嚴峻挑戰。