付迎紅

AI無中生有，律師竟也“中招”。北京市通州區(qū)人民法院近日披露的一起案件，讓人啼笑皆非：原告代理人在書面代理意見中援引了兩份裁判文書。經核查，這兩起所謂的司法案例實為AI杜撰生成。據記者了解，該代理人是一名職業(yè)律師。

這可不是個例。用過生成式AI的人，多少都領教過它那套功力：盡管回答往往條理清晰、論證充分，但有時也會“一本正經地胡說八道”，以真假難辨的細節(jié)讓人信以為真。比如，AI推薦的書，書名動人卻根本買不到；撰寫文獻綜述，引用的觀點純屬虛構；就連給個鏈接，都可能指向“查無此頁”……這些現象都可以歸為AI幻覺。在本案中，原告代理人作為法律專業(yè)人士，不僅未能識破AI精心編織的虛假判例，反將其呈送法庭，也足以說明其迷惑性之強。

司法活動的核心，是“以事實為依據，以法律為準繩”。這里的“事實”，既包括案件事實，也包括作為先例的裁判事實。當AI憑借強大的自然語言處理能力，憑空捏造出邏輯自洽、格式規(guī)范的“判例”時，它污染的正是裁判事實的源頭活水，影響的是司法秩序和司法公信力。

所幸此案承辦法官有一雙“火眼金睛”，但這起AI生成虛假判例暴露出的現實威脅，仍不容低估。以上種種也在提醒，防范AI幻覺，必要且緊迫。

以制度劃定邊界。針對AI幻覺，許多地方都試圖通過制定規(guī)則來破解。比如，在美國、澳大利亞、英國等國家，若不當使用AI工具、編造虛假判例，后果往往極其嚴重，被罰款者有之，被解雇者亦有之。同理類推，醫(yī)療、法律、金融等行業(yè)容錯率低，對專業(yè)性要求極高。AI進入這些行業(yè)，相關部門也應當設立標準，加快完善評價體系和監(jiān)管機制。

以技術驅散迷霧。研究表明，AI“養(yǎng)成”過程中，數據“投喂”是關鍵環(huán)節(jié)，可靠、可信、高質量的數據對降低AI幻覺十分關鍵。有鑒于此，各大廠商也應優(yōu)化人工智能的訓練語料，用好數據生成優(yōu)質內容；同時探索建立具有權威性的數據共享平臺。

以人文駕馭未來。古人言：“君子生非異也，善假于物也”。AI的正確打開方式，應當是啟發(fā)靈感而非代替思考。從使用者的角度看，我們要始終保持獨立思考的能力，謹慎對待AI生成的內容，將決策權牢牢掌握在自己手中。