Google Gemini AI 成詐騙幫凶？控中國犯罪集團濫用工具，發動大規模釣魚攻擊

科技巨頭 Google 日前在紐約聯邦法院對一個名為 Outsider Enterprise 的中國網路犯罪集團提起訴訟，指控該集團利用 Google 自家的 Gemini AI 技術，大規模自動化發送詐騙簡訊，誘騙美國數十萬名用戶點擊釣魚網站，竊取其金融帳戶資訊。

根據法院文件，被告集團涉嫌利用 Gemini AI 生成用於偽造網站的程式碼與模板，這些網站外觀上與合法的電信公司入口網站極為相似。美國聯邦調查局（FBI）指出，該犯罪網絡已在全球數十個國家部署了超過 8,000 個釣魚網站。

Google 在訴訟文件中提到，在截至 6 月 1 日的兩週內，Google Messages 收到約 55,000 則可疑訊息的報告，其中許多據稱與 Outsider Enterprise 有關。訴訟文件進一步揭露，該犯罪集團估計已竊取了 387 萬筆信用卡號，自 2023 年 7 月以來，已造成約 19 億美元的損失。

Google 在其官方新聞帳號 @NewsFromGoogle 的 X（前身為 Twitter）貼文中表示：「今天，我們提起訴訟，旨在永久瓦解一個有組織的網路犯罪集團，該集團被指控利用包括 Gemini 在內的人工智慧工具，透過偽造的簡訊活動詐騙美國民眾。」

AI 詐騙成為新興威脅

此次訴訟正值 AI 驅動的金融詐騙在美國激增之際。FBI 的網路犯罪投訴中心（IC3）在 2025 年收到了 1,008,597 件網路犯罪投訴，其中與加密貨幣相關的投訴佔 181,565 件，造成的損失高達 110 億美元，是所有類別中最高的。

更值得注意的是，FBI 的 IC3 在其近 25 年的歷史中，首次設立了專門針對人工智慧詐騙的區塊。AI 詐騙在 2025 年產生了 22,364 件投訴，讓美國民眾損失了近 8.93 億美元。FBI 在 2024 年推出的「Operation Level Up」行動，已通知超過 8,000 名加密貨幣詐騙受害者，並成功阻止了超過 5 億美元的潛在損失。

此次 Google 提告 Outsider Enterprise 的案件，被視為一個重要的里程碑。這代表著相關單位正試圖追究濫用 AI 工具對抗金融體系的行為者責任。研究顯示，即使是頂尖的 AI 模型，也可能被引導產生有害行為，這也引發了人們對 Apple 等公司將 AI 功能整合到消費性產品中的擔憂。

據了解，Outsider Enterprise 的釣魚網站特別針對各種金融帳戶，包括加密貨幣錢包和交易所的憑證。詐騙者日益將目標轉向數位資產持有者，因為他們相較於傳統銀行客戶，可能擁有較少的追索權。