Google 對抗 AI 詐騙集團：首度提告中國犯罪組織並推動立法防堵

Google 近日宣布對一個中國網路犯罪組織提起訴訟，指控該組織濫用其 Gemini AI 技術進行大規模詐騙活動。這是 Google 首次針對此類 AI 驅動的詐騙採取法律行動，並已與美國聯邦調查局（FBI）以及 AT&T、T-Mobile、Verizon 等電信業者合作，共同拆解該犯罪網絡。

利用 AI 偽造官方網站

Google 在訴訟中指出，該名為「Outsider Enterprise」的組織利用 Gemini 技術與 Google 品牌形象進行詐騙。該組織透過 AI 製作出高度仿真的偽造網站，冒充 Google、YouTube 以及美國郵政署（US Postal Service）、紐約 E-ZPass 收費服務等政府機構。

根據 Google 公布的數據，該組織的詐騙規模驚人：

• 詐騙規模：在短短兩週內，該組織建立了 9,000 個偽造網站與 100 萬個詐騙網址。
• 受害者影響：該行動已導致數十萬名受害者，估計損失金額達數百萬美元。
• 訊息散布：該組織發送了 55,000 則被 Android 用戶標記為垃圾訊息的簡訊，以及 250 萬則包含詐騙連結的訊息。

這不僅是垃圾訊息，而是透過手機進行的組織性跨國犯罪，必須採取與威脅規模相當的協調與強硬手段來回應。——美國眾議員 Brian Fitzpatrick (R-Pennsylvania)

推動立法防範 AI 犯罪

Google 總法律顧問 DeLaine Prado 向《紐約時報》表示，此次訴訟反映了該詐騙行動的廣泛影響力。鑑於 AI 技術可能被用於「升級」各類威脅，Google 正積極遊說美國國會通過七項跨黨派法案，包括《打擊詐騙國家戰略法案》（National Strategy for Combatting Scams Act）、《詐騙預防戰略工作小組法案》（Strategic Task Force on Scam Prevention Act）以及《AI 計劃法案》（AI Plan act）等，旨在從法律層面遏止未來的 AI 詐騙。

犯罪分子越來越多地利用 AI 讓此類詐騙更具說服力且更難以察覺，我們需要一個永久性的解決方案將他們繩之以法。——FBI 助理局長 Brett Leatherman

Google 目前已請求法院發布限制令，以徹底關閉該犯罪網絡的運作。