AI 伴侶成癮危機：專家呼籲將「情緒依賴」視為產品瑕疵，透過訴訟強制監管

AI 伴侶的成癮設計：是陪伴還是數位陷阱？

隨著人工智慧技術演進，聊天機器人已從單純的生產力工具，轉變為許多使用者的心靈導師與伴侶。然而，這類產品透過記憶對話內容與適應個人情境的設計，引發了外界對於其「設計初衷」的質疑：這些 AI 究竟是為了協助使用者，還是為了讓使用者盡可能長時間地沉浸其中？

耶路撒冷希伯來大學班寧電腦科學與工程學院（Benin School of Computer Science and Engineering）的 Ayelet Gordon-Tapiero 博士指出，AI 伴侶的設計反映了數十年來在「人機互動（HCI）」與「人機互動（HRI）」領域的研究成果。這些研究旨在透過實驗，讓電腦系統更具吸引力與同理心，但也成功引發了使用者的成癮反應。

AI 伴侶的設計反映了數十年來人機互動領域的研究成果，這些設計選擇成功引發了使用者的成癮反應。

訴訟作為監管工具：將 AI 視為「產品」

Gordon-Tapiero 認為，社會不應將情緒依賴、成癮與操縱行為視為技術發展的「不幸副作用」，而應將 AI 視為與其他消費性產品無異的商品。她主張，法院未來可能需要審視這些負面結果是否構成「產品瑕疵」，進而讓開發商承擔法律責任。

針對監管方式，Gordon-Tapiero 強調「透過訴訟進行監管（Regulation by litigation）」的重要性。她表示，在科技領域，訴訟比僵化的行政命令更具靈活性。例如在美國的 Garcia v. Character Technologies 一案中，法院裁定 AI 伴侶應被視為一種「產品」，這為原告依據產品責任法提起訴訟開啟了先例。

資本驅動的成癮迴圈

面對微軟等大型科技公司內部文件曾提及「讓人們成癮」的計畫，Gordon-Tapiero 認為這並非單一現象，而是與社群媒體演算法如出一轍的商業模式。這種模式由資本驅動，追求效率與獲利最大化（如 ARPU，每用戶平均收入）。

她指出，社會在某些情況下會限制企業追求利潤的權利，例如禁止向兒童販售香菸。同樣的邏輯也應適用於 AI，特別是當企業的獲利建立在損害個人福祉之上時。透過「不當得利（unjust enrichment）」等普通法原則，法律有權要求企業吐出不正當取得的利潤。

教育與消費者意識的轉向

儘管監管至關重要，但 Gordon-Tapiero 提醒，這並非萬靈丹。她認為，教育大眾認識科技的承諾與風險，才是改變企業行為的最有效手段。當使用者拒絕使用有害的技術，並要求具備深思熟慮與促進人際連結的產品時，企業為了生存，將不得不調整其設計邏輯，將利益擴及至個人與社會整體，而非僅僅追求財報數字。