Meta AI 變身「農場文」製造機？生成式 AI 社交化帶來的內容亂象

Meta 積極將生成式 AI 從單純的生產力工具，轉型為具備社交屬性的互動體驗。然而，據《The Verge》報導，Meta AI 應用程式內的社交探索資訊流（social discovery feed），近期卻被大量低品質內容淹沒，包括虛構的個人告白、誤導性的健康建議，以及刻意設計用來騙取點擊與互動的詭異情境。

公開化策略引發的內容失控

這類亂象的核心原因，在於 Meta 決定將用戶與 AI 的對話內容與提示詞（prompts）設定為公開可見。這項設計將 AI 平台轉變為類似社群媒體的內容資訊流，用戶可以瀏覽他人與 AI 的互動，並對其進行回應。批評者指出，這種機制變相鼓勵用戶生成更誇張、更具情感操弄性質的內容，以換取平台的關注度。

目前在 Meta AI 資訊流中，常見的內容包括：

• 虛假情感故事：編造的個人經歷，旨在引發用戶共鳴與轉發。
• 誤導性資訊：缺乏根據的健康建議或誇大其詞的敘事。
• 點擊誘餌：模仿傳統 Facebook 農場文的行銷手法，模糊了諷刺、惡意假訊息與 AI 垃圾內容的界線。

演算法與審核機制的雙重挑戰

隨著 AI 逐漸演變為社交平台，Meta 面臨著與過去社群媒體相同的審核難題。當 AI 生成的內容變得愈發真實且具備情感說服力，用戶將更難分辨哪些是真實的人類經驗，哪些是 AI 實驗性提示或刻意編造的敘事。這不僅造成用戶體驗的混亂，更可能進一步侵蝕網路信任。

此外，推薦演算法的運作機制也加劇了問題。若演算法僅以「互動率」作為推播指標，而不考慮內容的品質或準確性，那麼聳動且誤導性的 AI 貼文將持續獲得演算法青睞，進而獲得更多曝光。這意味著 Meta 的 AI 平台可能正在重蹈社群媒體過去的覆轍，即透過獎勵爭議性內容來維持用戶黏著度。

目前 Meta 正持續將 AI 整合至 WhatsApp、Instagram、Facebook 等旗下生態系，將對話式 AI 視為未來網路體驗的關鍵。然而，此次資訊流亂象的爭議顯示，隨著 AI 互動日益頻繁，用戶與監管機構對於 AI 生成內容的標示與審核標準，勢必將提出更嚴格的要求。