Google AI 搜尋大翻車：竟將「SCP 恐怖創作」當成真實歷史事件

AI 搜尋的「虛構」危機

Google 的 AI 搜尋摘要功能（AI Overviews）近期被外媒《Futurism》點名，指出該系統在處理搜尋結果時，竟將網路知名的「SCP 基金會（SCP Foundation）」虛構恐怖創作，當作真實存在的生物與事件進行介紹。SCP 基金會是一個以集體創作形式架構的恐怖怪談網站，內容皆為虛構的「異常」現象，但 Google 的 AI 卻在至少 20 個案例中，完全忽略了這些內容的虛構本質。

誤將怪談當作科學紀錄

報導指出，當用戶搜尋「SCP-565」時，AI 摘要竟描述了一種「像螃蟹一樣移動的異常人頭」，並將其與法醫紀錄及一名已故男子的身分連結，甚至建議用戶閱讀該「官方」文件以獲取更多資訊。此外，搜尋「SCP-426」（一個會讓提及者不自覺使用第一人稱說話的虛構烤麵包機）時，AI 甚至直接以該烤麵包機的口吻進行自我介紹，並詳細描述了人們試圖模仿它時所受的虛構傷害。

在這些案例中，AI 摘要將 SCP 基金會的虛構文件視為合法研究，而非標註為小說創作。

儘管 SCP 基金會官網明確標示其內容皆為虛構，但 Google 的 AI 摘要幾乎未曾提供此類背景說明，僅偶爾提及「傳說（lore）」一詞，卻未解釋其含義。這並非 Google AI 首次將錯誤資訊當作事實呈現，過去該功能曾出現日期錯誤、歷史事件造假等爭議。

AI 的「自信錯誤」風險

《Digital Trends》記者在嘗試重現上述搜尋結果時發現，部分查詢已無法再產出同樣的錯誤摘要，顯示 Google 可能已針對特定關鍵字進行了修正或調整。然而，這類問題的本質風險依然存在。由於 AI 摘要位於 Google 搜尋結果的最上方，對於不熟悉 SCP 社群的用戶，特別是兒童而言，極易誤導他們將這些恐怖小說內容視為真實紀錄。

這類錯誤與先前 AI 建議用戶在披薩醬中加入無毒膠水的案例如出一轍，再次提醒大眾，生成式 AI 在搜尋引擎中展現出的「自信錯誤（confidently wrong）」仍是目前技術無法完全根除的系統性風險。