AI 淪為詐騙與認知作戰工具：Google 聯手 FBI 提告，OpenAI 揭露中國網軍操作

Google 聯手 FBI 打擊 AI 金融詐騙

Google 近日於紐約南區聯邦地方法院提起訴訟，控告一個名為「Outsider Enterprise」的中國網路犯罪組織。根據訴狀，該集團利用 Google 的 AI 模型 Gemini，針對數十萬名美國民眾進行金融詐騙。這是 Google 首次與 FBI 以及 AT&T、T-Mobile、Verizon 等電信業者合作，試圖透過法律手段取得限制令，以強制關閉該集團的網域並凍結相關帳戶。

該犯罪網路的運作規模驚人，他們開發了 131 套軟體工具，用於快速建立數千個偽裝成 Google、YouTube、美國郵政署（Postal Service）及紐約 E-ZPass 收費系統的假網站。僅在 5 月份的兩週內，該組織便透過 Telegram 協調，向 Android 用戶發送了 250 萬則訊息，其中包含連結至 9,000 個假網站及超過 100 萬個詐騙網址。雖然 Google 尚未能精確估算損害金額，但據《紐約時報》報導，該案涉及的損失金額已達數百萬美元。

FBI 網路部門助理主任 Brett Leatherman 表示，犯罪分子正日益頻繁地利用 AI 技術，使詐騙手段更具說服力且更難以察覺。FBI 統計，2025 年全球網路犯罪造成的總損失約為 210 億美元，其中有 8.93 億美元與 AI 相關。

OpenAI 封鎖中國認知作戰群組

與此同時，OpenAI 發布了《2026 年 6 月威脅報告》，宣布封鎖兩個源自中國的 ChatGPT 帳號群組，這些帳號被指控試圖操縱美國科技政策的輿論。OpenAI 調查發現，這些操作者使用 VPN 並以簡體中文下達指令。

第一個被稱為「Data Center Bandwagon」的群組，透過 X 平台發布英文評論、漫畫及修圖，宣稱 AI 資料中心的擴張導致一般家庭電費上漲。該群組被追蹤至一家為中國地方政府工作的私人科技公司，其帳號亦曾攻擊異議人士李穎（「李老師」），並偽裝成在美中國移民。

第二個群組「Tech and Tariffs」則製作漫畫攻擊川普的關稅政策與美國的科技主導戰略，並在指令中明確要求 AI 模型「不得描繪中國或習近平」。該群組還試圖透過散布「ChatGPT 用戶資料外洩」的虛假訊息來抹黑 OpenAI，並曾詢問 ChatGPT 如何建立自動標記「關鍵人物」與「有害內容」的 AI 監控系統，不過 OpenAI 表示模型僅回覆了關於資料儲存的一般性建議。

OpenAI 首席調查員 Ben Nimmo 向《Axios》表示，這些影響力操作並未創造新的議題，而是依附於既有的討論中，試圖從中國進行引導。

根據 OpenAI 的「突破規模（Breakout Scale）」評估，這兩項操作均僅被評為「第一級（Category 1）」，意指其影響力並未超出其帳號本身，未能在公開討論中產生實質擴散效果。