AI 寫訴狀釀禍！美國律師盲信生成式 AI，引用虛構判例遭法院重罰

AI 淪為「造假」工具，法律專業面臨信任危機

在密西西比州的一起太陽能開發計畫費用糾紛案（Withers v. City of Aberdeen）中，一場原本單純的法律訴訟，竟演變成一場「AI 錯誤喜劇」。該案涉及律師 Tom Withers III 與亞伯丁市（Aberdeen, Miss.）之間的費用爭議，然而法官在審理過程中發現，控辯雙方各兩名律師，竟在提交給法院的文件中引用了由生成式 AI 虛構（Hallucinated）的判例，這些案例根本不存在於州法律體系中。

行銷與商業法律師 Rob Freund 在社群平台 X 上率先揭露此案，隨後引起《紐約時報》與《404 Media》等媒體關注。在法院召開的聽證會上，四名涉案律師均對此表達歉意與尷尬，承認在提交文件前，未曾驗證 AI 產出的法律依據。

法官嚴厲制裁：盲目依賴科技違反職業規範

美國聯邦地方法官 Sharion Aycock 對此採取強硬立場，不僅對四名律師處以罰款，並直接終止了該案件。法官在裁決中明確指出：

所有律師皆已取得執照，理應受過良好的法律訓練。他們盲目依賴科技的行為，導致提交的文件中充斥著 AI 生成的虛假引用。

法官援引《聯邦民事訴訟規則》第 11 條（Rule 11）指出，律師在法律文件上簽名，即代表向法官保證內容真實無誤。此次事件凸顯了大型語言模型在處理法律事務時，常會為了拼湊出看似合理的敘事而編造事實，若律師未經人工審核便直接引用，將面臨嚴重的職業風險。

法律界對 AI 的監管與應對

這並非法律界首次因 AI 錯誤而陷入困境。為了應對生成式 AI 帶來的挑戰，紐約州已於 6 月 1 日起實施新規定，明確指出使用 ChatGPT 等工具生成的內容，將不再受到「律師與客戶特權」（attorney-client privilege）的保護。

作為美國最大的律師組織，美國律師協會（ABA）主席 Michelle A. Behnke 在回應《CNET》詢問時表示，律師在運用 AI 時正面臨複雜挑戰，必須對 AI 產出的結果進行嚴格審查與監督。ABA 目前已成立 AI 專責小組，並發布了倫理指導方針，建議律師在提供法律服務時，必須充分理解所使用技術的潛在利益與風險。