□ 本報(bào)記者 何睿
在湖北省大悟縣人民法院近日審理的一起房屋租賃合同糾紛案中，原告董某作為證據(jù)提交的水電表照片，赫然帶有“AI生成”的水??；在法官的質(zhì)詢下，董某最終承認(rèn)自己利用AI技術(shù)偽造證據(jù)，并受到了訓(xùn)誡。
這起看似荒唐的AI造假并非個(gè)例，多地法院亦有類似遭遇。隨著生成式人工智能技術(shù)融入法律行業(yè)，其帶來的“AI幻覺”陷阱，即生成看似真實(shí)、合理，實(shí)則虛假、錯(cuò)誤的內(nèi)容，也在侵入莊嚴(yán)的法庭。面對這一沖擊，除了依靠法官的慧眼，各地法院也在探索構(gòu)建長效防范治理機(jī)制。
干擾司法秩序
“AI幻覺”在法律領(lǐng)域已造成多層面沖擊，最常見的是生成虛假或錯(cuò)誤的案例和法條。
在北京市通州區(qū)人民法院審理的一起看似尋常的商事糾紛中，承辦法官鄭吉喆發(fā)現(xiàn)，原告代理律師提交的兩個(gè)案例的案號(hào)所對應(yīng)的真實(shí)案件情況，與其援引內(nèi)容風(fēng)馬牛不相及。在法官的追問下，原告代理律師終于承認(rèn)，這些所謂的案例竟是AI工具根據(jù)其檢索生成的。
北京市第二中級人民法院推動(dòng)落實(shí)全員、全面、全程“三全”釋法說理機(jī)制，對當(dāng)事人提交的證據(jù)材料、法律意見等進(jìn)行嚴(yán)格審查。在該院2025年9月審理的一起繼承糾紛案件中，當(dāng)事人發(fā)來了自己通過AI搜索到的裁判依據(jù)。承辦法官屠育對照后發(fā)現(xiàn)，竟沒有一條是準(zhǔn)確的現(xiàn)行法律規(guī)定。
在上海市第二中級人民法院受理的各類二審案件中，已出現(xiàn)當(dāng)事人直接使用AI工具擬寫訴狀、援引虛構(gòu)法條，甚至將AI生成的答復(fù)作為證據(jù)提交的情形。“例如，我庭2025年11月審結(jié)的董某與上海市某公司勞動(dòng)合同糾紛一案中，當(dāng)事人上訴狀引用相關(guān)法律條文，經(jīng)核查均不存在或與條文原意不符。”上海二中院民事審判庭法官沈永妍介紹道。
更嚴(yán)峻的是，“AI幻覺”還可能被用于惡意取證、偽造證據(jù)、虛構(gòu)事實(shí)。
在上海市青浦區(qū)人民法院審理的一起侵害商標(biāo)權(quán)糾紛中，原告四川全某餐飲文化管理有限公司（以下簡稱全某公司）系“全某冒”注冊商標(biāo)專用權(quán)人，在某搜索引擎以“全某冒菜加盟要多少錢”為關(guān)鍵詞搜索所得結(jié)果首條即為完整包含前述關(guān)鍵詞內(nèi)容的上海世某食品股份有限公司（以下簡稱世某公司）自有品牌加盟推廣網(wǎng)頁鏈接。
全某公司遂以世某公司購買搜索引擎廣告服務(wù)，并有意選用“全某冒”商標(biāo)相近的搜索關(guān)鍵詞進(jìn)行網(wǎng)絡(luò)推廣，侵害其注冊商標(biāo)專用權(quán)同時(shí)構(gòu)成不正當(dāng)競爭為由訴至人民法院，要求世某公司停止侵權(quán)并賠償損失。世某公司辯稱，其雖購買了某搜索引擎網(wǎng)絡(luò)招商廣告推廣服務(wù)，但未曾主動(dòng)添加含“全某冒”字樣的關(guān)鍵詞，否認(rèn)實(shí)施被訴侵權(quán)行為。
北京某網(wǎng)訊科技有限公司稱世某公司購買了其經(jīng)營的某搜索引擎推廣服務(wù)，但經(jīng)后臺(tái)數(shù)據(jù)核查，世某公司未主動(dòng)添加“全某冒菜加盟要多少錢”關(guān)鍵詞。而全某公司取證前存在多達(dá)50余次頻繁重復(fù)搜索含“全某冒”相關(guān)關(guān)鍵詞卻不點(diǎn)擊搜索結(jié)果的行為，其取證過程存在異常。
青浦法院西虹橋（進(jìn)口博覽會(huì)）人民法庭法官趙暉暉表示，這是原告利用AI的自主學(xué)習(xí)能力，通過在搜索引擎中反復(fù)輸入自身商標(biāo)名稱、卻不實(shí)際訪問顯示正常的網(wǎng)頁鏈接，進(jìn)行一系列非正常的搜索操作，直至錯(cuò)誤鏈接顯示即進(jìn)行取證，人為制造了“侵權(quán)”假象。根據(jù)查明情況，原告竟以此手法取得400余份“證據(jù)”，向全國各地法院提起或準(zhǔn)備提起商標(biāo)侵權(quán)訴訟。
避免過度依賴
AI為何會(huì)“胡言亂語”？北京二中院申訴審查庭庭長趙銀豪指出，“AI幻覺”是AI思維模式的天然副產(chǎn)品，大語言模型的本質(zhì)是概率預(yù)測而非邏輯推理；當(dāng)遇到訓(xùn)練數(shù)據(jù)不足、信息模糊或用戶指令引導(dǎo)性過強(qiáng)時(shí)，它為追求文本連貫與完成任務(wù)，便會(huì)傾向于自主創(chuàng)造內(nèi)容。
“法律領(lǐng)域的特殊性加劇了這一風(fēng)險(xiǎn)。”在趙銀豪看來，法律知識(shí)體系龐大、更新迅速，且存在大量未公開文書或內(nèi)部規(guī)范，客觀上容易形成“信息真空地帶”；法律語言高度專業(yè)化且依賴嚴(yán)謹(jǐn)解釋，AI易陷入“死摳字眼”或“忽視但書”等機(jī)械理解的境地；部分當(dāng)事人或法律工作者對AI過度依賴與盲目信任，沒有盡到對信息真實(shí)性的核驗(yàn)義務(wù)。
“有的當(dāng)事人拿著由AI生成的對某一法律問題的意見，作為抗辯理由。這種對不準(zhǔn)確信息來源的依賴，不僅削弱了法律規(guī)范的權(quán)威性，也對司法專業(yè)解答產(chǎn)生干擾，損害司法公信力。”在上海二中院民事審判庭審判團(tuán)隊(duì)負(fù)責(zé)人陳櫻看來，AI所生成意見的內(nèi)容、方向、針對性、專業(yè)性、準(zhǔn)確性等，與提問者提供給AI的案情信息和提問方式有很大關(guān)聯(lián)；當(dāng)事人往往根據(jù)自己的理解去提問，提供的信息不全面甚至有偏向性，因此AI給出的答案往往偏向于提問方；使用AI工具，應(yīng)對其生成內(nèi)容進(jìn)行必要的核查求證，切忌盲目照搬。
注重內(nèi)容審核
工具的價(jià)值，取決于人類的智慧與責(zé)任。面對“AI幻覺”的沖擊，司法機(jī)關(guān)正在積極行動(dòng)。
在審查經(jīng)驗(yàn)層面，通州法院成立人工智能司法應(yīng)用案例與理論興趣小組，總結(jié)出AI虛假案例的特征以便識(shí)別：如案號(hào)編排存在規(guī)律化痕跡、案情描述過度貼合需求場景、難以通過檢索方式進(jìn)行驗(yàn)證等。
“在行為規(guī)范層面，司法機(jī)關(guān)對于提交材料中含有疑似AI生成內(nèi)容的當(dāng)事人，應(yīng)進(jìn)行必要釋明與風(fēng)險(xiǎn)告知，要求當(dāng)事人在提交材料中標(biāo)注人工智能輔助生成情況。”陳櫻表示。
趙銀豪認(rèn)為，對于當(dāng)事人或法律工作者提交含有AI虛構(gòu)內(nèi)容的訴訟材料的行為，應(yīng)視情節(jié)采取訓(xùn)誡、罰款等懲處措施，誠實(shí)信用是訴訟參與人的基本義務(wù)，AI不能成為免責(zé)借口。
在技術(shù)優(yōu)化層面，陳櫻建議引導(dǎo)人工智能服務(wù)平臺(tái)加強(qiáng)內(nèi)容審核，對側(cè)重于法律用途的AI模型，平臺(tái)應(yīng)實(shí)施更嚴(yán)格的內(nèi)容真實(shí)性審核與用戶提示義務(wù)，例如采用檢索增強(qiáng)生成技術(shù)，將AI的生成過程與權(quán)威、實(shí)時(shí)的法律數(shù)據(jù)庫更緊密掛鉤，是減少產(chǎn)生“AI幻覺”的有效路徑；在司法機(jī)關(guān)內(nèi)部，可依托數(shù)字法院建設(shè)，識(shí)別虛構(gòu)法條、案例及典型AI生成痕跡，并向承辦法官提示風(fēng)險(xiǎn)，提升審查質(zhì)效。
“我堅(jiān)信，技術(shù)進(jìn)步的車輪無法阻擋，人工智能會(huì)更進(jìn)一步融入法律工作。但是技術(shù)的局限性不可忽視，工具無法取代人的擔(dān)當(dāng)。法庭之上，最終且唯一的審判者，只能是且必須是經(jīng)得起追問的人。”趙銀豪表示。
漫畫/高岳
免責(zé)聲明：凡本網(wǎng)注明“來源：XXX（非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺(tái)）”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)，作品版權(quán)歸原作者所有，如有侵犯您的原創(chuàng)版權(quán)請告知，我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品，拒絕任何不保留版權(quán)的轉(zhuǎn)載，如需轉(zhuǎn)載請標(biāo)注來源并添加本文鏈接：http://www.892249.com/fazhi/show-124-374868-0.html，否則承擔(dān)相應(yīng)法律后果。
