2025 年 6 月 6 日，英格蘭與威爾斯高等法院 King’s Bench Division 發布一份裁定，把兩起律師引用不存在判例的案件合併處理，並對生成式 AI 在法律工作中的角色給出罕見直白的警告。TechCrunch 在 6 月 7 日報導了這份裁定，強調律師接下來可能面對「嚴厲」的懲處。
對 AI 工具的開發者與產品團隊來說，這份文件值得細讀：它不是又一則 AI 幻覺趣聞，而是資深法官逐字描述這類工具的能力邊界，並列出從懲戒到刑事轉介的完整制裁光譜。RAG、引註生成、引用核驗——這些功能設計從此有了一個法庭級的檢驗標準。
兩起案件：45 條引註有 18 條不存在
這份裁定的正式名稱是 Ayinde 訴倫敦 Haringey 區公所，與 Al-Haroun 訴卡達國家銀行兩案的合併處理，判決編號 [2025] EWHC 1383 (Admin)，由 King’s Bench Division 的 Divisional Court 作成。其中一案，代表當事人向兩家銀行求償的律師提交了一份含 45 條判例引註的文件，其中 18 條根本不存在；其餘引註也「沒有附上被宣稱的引文、不支持所引用的論點，與申請標的無關」。另一起案件裡，代表一名被倫敦房東驅離住戶的律師，在文件中引用了 5 條看來不存在的判例；她否認使用 AI，並說那些引註可能來自「Google 或 Safari」上的 AI 生成摘要。換句話說，兩起案件的共同點不是律師用了 AI，而是沒有人核對 AI 交出的答案。
法官點名生成式 AI：看似連貫，實則錯誤
主筆裁定的 Victoria Sharp 法官寫道，ChatGPT 這類生成式 AI 工具「無法勝任可靠的法律研究」；這類工具「能對提示詞產出看似連貫且有說服力的回應，但那些連貫且有說服力的回應，最後可能完全錯誤」，甚至「做出與事實相反的自信斷言」。她強調，這不代表律師不能把 AI 用於研究，而是他們負有職業義務，「在使用於專業工作之前，參照權威來源核實研究結果的正確性」。她還觀察到，律師引用 AI 生成不實內容的案件正在增加——包括在美國，連大型 AI 平臺聘用的律師都曾出現類似情形——因此「需要做更多，確保指引被遵循、律師履行對法院的義務」。在她看來，危險恰恰藏在這類工具最受歡迎的特性裡——回應看起來越連貫，使用者越容易跳過核對。這次的教訓因此很簡單：工具越流暢，核對越不能省。
制裁光譜：從公開譴責到轉介警方
這次法院決定不啟動藐視法庭程序，但明言這「不構成先例」，不遵守專業義務的律師「面臨嚴厲制裁」。法官列出的權力範圍，從公開譴責、課予訟費、藐視法庭程序，一直到「轉介警方」。兩名律師已被移送（或自行向）專業懲戒機關報到；裁定本身也將轉發給 Bar Council 與 Law Society 等專業團體，作為後續指引與紀律程序的基礎。值得留意的是，法院這次刻意不用最重的手段，卻把裁定公開轉發給專業團體——警告的分量，放在處罰的前面。
給 AI 工具開發者的啟示
第一，「說得通」不再是品質標準。法官的原話——連貫、有說服力、但可能完全錯誤——是幻覺問題迄今最精準的官方描述之一。做引用、引註或文獻搜尋功能的團隊，應把「每條引用都能回溯到權威來源」當成驗收條件，而不是加分項。第二，核實責任落在使用端，但設計責任在供給端：裁定把查證義務交給專業人士，可以預期各專業監管機關將跟進類似指引；能內建來源核驗、引用可視化與適時拒答的工具，會比「只會生成」的工具多一層合規價值。第三，風險等級正在上調：從 2023 年美國律師因 ChatGPT 捏造判例被罰，到 2025 年英國法庭公開點名並預告刑事轉介的可能，AI 引註的可信度已經從職業倫理議題，升級為法律風險議題。實務上，這代表檢索增強生成的引用鏈路、來源片段的可視化與逐條核對功能，正在從研究專案變成產品需求；採購 AI 工具的法務與合規團隊，也會很快把「引用核驗」從加分題列為必答題。幻覺不會因為一份裁定而消失，但驗收標準會從此改寫。
參考來源
- Ayinde -v- London Borough of Haringey, and Al-Haroun -v- Qatar National Bank — Courts and Tribunals Judiciary
- Lawyers could face ‘severe’ penalties for fake AI-generated citations, UK court warns — TechCrunch
本文由 AI 協助自上述來源整理，經人工審核後發布。