近年來，人工智能在司法實踐中呈現(xiàn)深度嵌入態(tài)勢，廣泛應用于立案審查、繁簡分流、證據(jù)比對、卷宗解析、量刑建議、裁判文書生成等核心環(huán)節(jié)，在提升司法效率、統(tǒng)一法律適用、保障司法公正、踐行司法為民理念以及推動基層社會治理現(xiàn)代化等方面展現(xiàn)出顯著優(yōu)勢，但同時也對傳統(tǒng)司法價值觀念發(fā)起了沖擊與挑戰(zhàn)，衍生出一系列應用風險。專家建議，亟需從完善規(guī)范體系、細化應用規(guī)則、健全監(jiān)管制度、加強倫理審查等方面入手，形成全方位、多層次的風險治理格局，推動人工智能司法應用向更高水平邁進。

（來源：《經(jīng)濟日報》）

專家指出，人工智能應用于司法實踐的過程中，引發(fā)法律、技術、倫理等方面的潛在風險。一是法律風險。中國政法大學錢端升講座教授劉艷紅等人表示，一方面，人工智能對效率的極致追求在一定程度上壓縮了正當程序的環(huán)節(jié)，忽略了公眾與司法溝通的橋梁紐帶，可能會產(chǎn)生主觀上的不信任感。算法偏見、算法歧視等可能影響人工智能的可靠性和公正性，在一定程度上消解了司法程序的中立性。另一方面，法律事實認定與法律條文適用的數(shù)字化轉(zhuǎn)換，并借助算法運算輸出是人工智能司法應用的基本過程。數(shù)據(jù)的準確性、模型設置的科學性都將對最終輸出結(jié)果造成影響。一旦算法和有關參數(shù)未得到合理設計，就可能產(chǎn)生系統(tǒng)性偏差，影響實體結(jié)果的準確性，對司法公正產(chǎn)生沖擊。二是技術風險。湖北省社會科學院政法研究所研究員李濤等人指出，目前，人工智能技術仍處于發(fā)展階段，算法的深度學習水平還遠未達到能取代人類審判的程度，主要是機械適用法條處理高度類型化的案件，尚未實現(xiàn)更高智能的輔助裁判。同時，人工智能技術發(fā)展迅速，司法領域引入人工智能技術可能面臨更新?lián)Q代，如果不能及時跟進，會導致司法工作效率下降，甚至出現(xiàn)技術與司法實踐相脫節(jié)的情況。此外，人工智能技術的數(shù)據(jù)密集型特征對技術防護提出更高要求。若缺乏有效技術規(guī)制與制度約束，可能引發(fā)數(shù)據(jù)泄露、算法篡改與系統(tǒng)失控等風險。三是倫理風險。北京師范法學院教授何挺等人認為，開發(fā)者作為人工智能初始規(guī)則與架構(gòu)的構(gòu)建者，其自身價值取向?qū)⒉豢杀苊獾厝谌胂到y(tǒng)設計中，若其秉持的價值觀念與司法規(guī)律、法律價值追求存在偏差，這些隱含的價值傾向?qū)⒃谌斯ぶ悄艿臎Q策邏輯中體現(xiàn)，埋下倫理風險隱患。

專家建議，多措并舉，積極應對人工智能司法應用的潛在風險。綜合劉艷紅、李濤、何挺等人觀點，一是完善法律規(guī)范體系。充分考慮人工智能技術發(fā)展的特點和趨勢，對人工智能司法應用的場景、潛在風險和發(fā)展趨勢進行深入分析，按照“急用先立、成熟先立”的原則，以倫理標準為依據(jù)，綜合多方主體力量共同制定專門針對人工智能司法應用的規(guī)范框架，明確人工智能在司法中的定位、應用限度等問題，規(guī)范人工智能技術在司法數(shù)據(jù)采集、存儲和使用等環(huán)節(jié)的操作流程。

二是細化應用規(guī)則。在數(shù)據(jù)方面，建立統(tǒng)一、規(guī)范的司法數(shù)據(jù)采集標準和體系，確保各類司法數(shù)據(jù)的完整性、準確性和及時性；加強司法數(shù)據(jù)的整合與共享，打破不同地區(qū)、不同層級司法機關之間的數(shù)據(jù)壁壘，實現(xiàn)數(shù)據(jù)互聯(lián)互通，為人工智能算法訓練提供豐富樣本。在算法方面，建立備案審查制度，保證算法使用符合法律規(guī)定；開發(fā)能夠解釋算法決策過程和依據(jù)的技術，使司法機關能夠理解人工智能給出建議或預警的邏輯，減少對算法黑箱的擔憂，增強公眾對人工智能輔助結(jié)果的信任。在安全保障方面，制定人工智能司法應用的安全認證制度，定期進行壓力測試和漏洞檢測。

三是健全監(jiān)管制度。其一，依據(jù)各領域、各地區(qū)人工智能技術的實際應用情況，制定與之適配的監(jiān)管規(guī)則，可選擇部分司法機關或特定類型案件試點，借助沙盒在可控范圍內(nèi)進行監(jiān)管測試，充分積累經(jīng)驗再逐步推廣。其二，對于一些新興的人工智能應用，要具備前瞻性眼光，提前預判潛在應用可能帶來的風險挑戰(zhàn)，預先制定監(jiān)管框架，以便在相關技術成熟并推廣時，能夠迅速、有效地進行監(jiān)管。其三，按照人工智能司法應用的風險等級、風險類型、數(shù)據(jù)敏感性以及對社會的影響程度等因素，進行細致分類，如根據(jù)人工智能司法應用是否影響人身權利、用于輔助性或程序性事務處理還是僅提供基礎服務支持等標準，將其風險等級分為高、中、低三類并分別予以監(jiān)管。

四是加強倫理審查。結(jié)合司法的特點和規(guī)律，針對人工智能司法應用制定倫理準則，區(qū)分不同場景和案件類型，明確倫理準則的責任歸屬，規(guī)定開發(fā)者、使用者和監(jiān)管者各自所應承擔的具體責任及其相應追責路徑，兼顧人類文明的基本價值理念與人工智能司法應用的長遠發(fā)展。建立分階段的倫理審查機制，包括研發(fā)前的評估審查、研發(fā)中的監(jiān)督審查和研發(fā)后的應用審查，對人工智能司法應用項目進行全周期倫理評估，確保符合倫理準則。

參考文章：

1.李濤：司法人工智能的應用邏輯與風險治理｜《行政法學研究》2025年第5期

2.劉艷紅｜人工智能司法安全風險的算法中心治理模式

3.王福華：人工智能介入司法應用面臨制度倫理挑戰(zhàn) | 品茗

4.【重磅首發(fā)】游勸榮：人工智能賦能新時代審判工作高質(zhì)量發(fā)展的機遇、挑戰(zhàn)及應對｜中國應用法學

5.張衛(wèi)平、冉博：對司法智能化應用局限性的觀察與思考——以民事司法智能化應用為中心

6.未成年人司法引入人工智能：潛在風險與范式重構(gòu)

7.防范AI技術濫用風險 切實保護未成年人身心健康

8.人工智能技術賦能司法的現(xiàn)實困境與制度回應

9.高艷東 | 人工智能在司法領域的運用及風險防控

輿情分析師 劉暢