【摘要】在數字中國與法治中國協同推進的戰略背景下，大語言模型司法應用正面臨技術黑箱性、數據治理短板與內容價值失范三重安全困局。須以總體國家安全觀為統領，在技術應用中嵌入社會主義核心價值觀，通過構建“技術防御-數據治理-可信體系”三位一體的安全體系，在制度創新中將《新一代人工智能發展規劃》與司法改革實踐有機銜接，走出一條技術賦能與風險防控并重的中國式司法智能化治理新路，為全球數字時代司法治理貢獻中國智慧。

【關鍵詞】智能司法 大語言模型 法律人工智能 可信可控

【中圖分類號】D916 【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2025.07.013

【作者簡介】中國人民公安大學法學院 山東警察學院  李非燕

在數字中國戰略縱深推進的背景下，《最高人民法院關于規范和加強人工智能司法應用的意見》提出，“到2025年，基本建成較為完備的司法人工智能技術應用體系，為司法為民、公正司法提供全方位智能輔助支持”。近年來，最高人民法院大力推進人工智能技術在司法領域的廣泛應用，智慧法院建設取得顯著成效，全國法院已全面完成人民法院信息化3.0版建設，向信息化4.0版邁進。例如，深圳市中級人民法院于2024年6月上線人工智能輔助審判系統，審判效率顯著提升，上線半年，深圳市中級人民法院民商事案件平均結案時間同比縮短25.6%，[1]彰顯出司法智能化轉型的戰略必要性。這一轉型既源于“案多人少”的現實壓力和“同案不同判”等風險，也得益于司法審判垂直領域大模型在法律條文解析中展現出的強大自我學習和反饋能力，為破解司法標準化難題提供了技術支撐。

在此背景下，大語言模型加速推動司法效率的提升和司法應用的范式變革。深圳市中級人民法院率先構建全國首個司法專用大模型，覆蓋立案審查、電子卷宗解析、爭議焦點提煉、裁判文書生成等85項核心審判環節，該系統通過嵌入最高人民法院裁判規則庫，創新實現“類案強制檢索”功能，試運行期間已輔助立案29.1萬件，裁判文書初稿生成準確率達92%。浙江省杭州市中級人民法院開發的建設工程糾紛智慧審判模型，通過工程造價、施工日志、監理報告的智能分析模塊，自動核算工程款利息和工期延誤損失等專業數據，實現類案審理效率提升65%，裁判自動履行率提至89%。[2]最高人民法院通過整合1.4億份裁判文書和200萬部法律法規，構建了全球最大的中文法律知識圖譜，該系統可智能審查證據鏈，自動標注證據瑕疵與法律適用沖突點。試點法院的單案辦理時效縮短40%，二審改判率下降15個百分點，推動司法生產力邁上智能躍升新臺階。

然而，技術創新與制度供給之間的張力也日益凸顯。技術層面，大模型參數規模呈現指數級增長，但我國《最高人民法院關于規范和加強人工智能司法應用的意見》的指導意見的修訂周期通常長達2～3年，難以匹配技術變革速度；制度層面，《中華人民共和國網絡安全法》《中華人民共和國數據安全法》尚未針對生成式人工智能設立專門條款，可能導致“人工智能偽造證據”等新型違法行為缺乏明確的規制依據；國際競爭維度，相較于歐盟《人工智能法案》確立的四級風險分類體系，我國司法人工智能領域尚未建立分級準入制度，在數字司法治理規則制定權爭奪中面臨話語權挑戰。這種“技術領跑”與“制度跟跑”的錯位格局，已成為智能司法深化發展的重要掣肘。

大語言模型司法應用的安全困境

大語言模型在司法領域的深度應用，本質上是技術邏輯與法律邏輯的深度融合過程。這種融合并非簡單的功能疊加，而是算法權力與司法權在數字空間的系統性重構。

技術原生的結構性風險。大語言模型的技術特性與司法活動的規范性要求之間，存在著三重難以調和的深層矛盾。其一，算法黑箱性與司法透明性的沖突。神經網絡“輸入-輸出”的不可解釋性導致模型生成判決建議時無法完整呈現法律推理的邏輯鏈條，這違背了《最高人民法院關于進一步深化司法公開的意見》中“推動實現司法信息自動生成、智能分析、全程留痕、永久可追溯等功能”的規范性要求。其二，動態學習機制與司法確定性的張力。大語言模型的持續進化能力可能導致相同案件在不同時間節點產生差異化結論，這不僅挑戰“同案同判”的司法原則，還可能動搖司法公信力的根基。其三，技術工具理性與司法倫理的價值錯位。當模型將法律條文簡化為概率計算時，可能消解裁判文書中“公平”“合理”等價值要素的衡量空間，導致裁判文書變為語法正確但缺乏人文關懷的文字堆砌。

以對抗攻擊為例，攻擊者可通過對輸入文本進行微小的語義擾動來誤導大語言模型的輸出。例如，將“正當防衛”替換為“防衛行為”，這種微小改動在語義上看似相近，但可能對模型的判斷產生顯著影響。這種“算法手術刀”式的攻擊手段，暴露出大語言模型在技術層面的結構性缺陷。更值得關注的是，深度學習框架的安全漏洞呈現典型的“木桶效應”。例如，2022年，PyTorch的預發布版本軟件包遭到“依賴混淆”攻擊，攻擊者‌將惡意軟件包傳到PyPI代碼庫中，導致受影響的計算機的敏感數據被泄露。這表明即使模型本身沒有直接漏洞，供應鏈漏洞仍可能引發系統性安全風險。

數據治理的制度性短板。司法數據的特殊性在于其兼具公共屬性與私權邊界的特征，因而對大語言模型的數據治理提出了雙重挑戰。從技術維度看，數據生命周期管理的碎片化易導致敏感信息保護層層失守。司法數據包含采集、存儲、處理和應用涉及大量敏感信息，如個人身份信息、案件細節、證人證言等。這些信息在數據生命周期的不同階段都可能因管理碎片化而面臨泄露風險。從制度維度看，《中華人民共和國個人信息保護法》確立的“刪除權”面臨技術性應用難題。盡管該法第四十七條明確規定了個人信息處理者在特定情形下刪除個人信息的義務，但在實際操作中，某些企業可能因技術架構復雜、數據存儲分散等原因，無法及時有效地刪除用戶信息。

更深層的矛盾在于，數據流動性與司法確定性的悖論。大語言模型依賴海量數據持續優化，但司法活動要求裁判依據的穩定性。例如，當大語言模型用于輔助司法裁判時，其訓練數據可能包含最新的社會觀念、政策變化或技術發展，這可能導致生成的裁判建議與現有法律框架或司法實踐產生偏差，這種偏差暴露出技術系統與法律制度演進間的適配難題。這種“數據進化”與“法律安定”的張力，亟須建立動態平衡機制。

內容生成的規范性危機。生成式人工智能的技術特性正在重塑司法活動的價值坐標。其一，法律解釋的算法僭越風險。當大語言模型將法律中“公序良俗”原則量化為詞向量時，實質是將價值判斷異化為特征權重計算，這可能導致輸出內容突破司法解釋設定的規范邊界。其二，文書生成的合規性風險。在司法系統中，任何由模型生成的法律文本、判決或建議都必須符合現行的法律規范和司法慣例。然而，由于大語言模型的生成機制基于大規模的語料庫和學習算法，這些模型可能在沒有明確法律監管的情況下，生成違反法律規定的內容。例如，模型可能依賴不準確或已過時的法律信息，或是對法律條文的解釋偏離本意，導致生成誤導性的法律建議。這不僅會直接影響案件結果，甚至可能損害司法公信力。

這種技術應用與司法本質的沖突，在價值層面體現為效率至上與司法謙抑性的對立。人工智能在司法領域的應用中，往往以提高效率為目標，這種效率導向可能忽視司法活動對個案差異和法律靈活性的需求。而司法謙抑性要求法官在法律框架內謹慎進行價值判斷和解釋，避免過度依賴技術手段，以確保司法決策的公正性和合法性。

大語言模型司法應用的安全治理之道

大語言模型的司法應用正深刻重塑司法權力運行模式，其安全風險亟待系統性應對。大語言模型在司法場景的應用安全，本質上是技術防御能力與攻擊手段的動態博弈過程。面對算法權力擴張與司法公信力的張力，需構建涵蓋技術防御、數據治理與可信體系的三維安全治理框架，實現從被動防護向主動進化的范式轉型，在保障技術效能的同時筑牢司法安全的制度防線。

構建主動免疫的技術防御體系。在司法場景中，大語言模型的應用面臨著對抗攻擊與數據投毒等傳統技術挑戰。攻擊者利用精心設計的語義陷阱，如虛構法律條文或扭曲案件事實，能夠誘使模型生成錯誤的裁決建議，這種隱蔽性特征凸顯了構建主動免疫的技術防御體系的重要性。為此，司法領域的相關研究應聚焦“動態對抗訓練”機制的建立。通過引入法律邏輯驗證模塊，不斷自動生成包含虛構法條（如創設“虛擬物權”概念）和事實矛盾（如時間線沖突）的對抗樣本庫，持續優化模型的法律推理魯棒性，從而提高模型應對對抗攻擊和復雜法律的能力。浙江法院系統上線的“鳳凰金融智審”3.0為這種防御體系提供了可復制的實踐范本。該系統通過法律知識圖譜和智能算法，將法律規范轉化為符號語言，這一做法既確保了裁判文書生成和裁判結果預測的透明性與可解釋性，也為法院決策提供了充分數據支持，讓法律條文在模型應用中得以精準體現。

此外，司法大語言模型還應具備自動校對功能，確保文書格式規范、要素完整、邏輯合理。這種主動校對機制可有效降低因技術缺陷、數據質量問題或模式識別失誤引發的誤判風險，在快速發展的技術環境中兼顧質量與效率，提升對抗潛在安全威脅的能力，為大語言模型的安全應用奠定基礎，也為未來法律智能化方向的研究與實踐提供重要參考。

筑牢司法數據主權的安全屏障。在數字化和智能化迅速發展的背景下，司法數據的戰略性地位愈發凸顯。為有效應對數據安全風險，推動法律與科技的深度融合，需構建中國特色司法數據治理體系，確保數據的安全性、完整性與保密性，特別是防范訓練數據污染的風險。為此，必須嚴格執行《中華人民共和國數據安全法》的數據分類分級制度，對涉及國家秘密和個人隱私的司法數據進行物理隔離，防止數據在使用過程中遭受泄露。對公開裁判文書應進行深度脫敏，確保數據共享與使用時，當事人及相關人員的隱私與權益得到保護。可推行“司法數據沙箱”機制，引入區塊鏈技術確保數據使用全流程的留痕，保護訓練數據的“可用不可見”特性，進而降低數據濫用和泄露的風險，同時能為技術研發與應用提供必要的支撐。

在強化司法數據安全的同時，亦需防范技術公司壟斷司法數據形成“算法權力尋租”。2022年修訂的《中華人民共和國反壟斷法》已新增數字經濟反壟斷專條，明確經營者不得利用數據和算法等從事法律禁止的壟斷行為，在此基礎上可借鑒歐盟《數字市場法》的經驗，增設“關鍵數據設施”條款，精準規制數字經濟壟斷行為，守護司法數據的獨立性與權威性。

培育可信屬性角度的安全防護策略。司法智能化轉型的本質，是技術工具理性與司法價值理性的深度融合過程，必須堅守“可信可控”的倫理底線，在算法權力與司法權之間構建動態平衡機制。依據《生成式人工智能服務管理暫行辦法》，生成式人工智能服務提供者需要接受安全評估，并對算法進行備案，以提高算法的透明度和可問責性。這要求算法開發者提供包含決策邏輯、法律依據分析、偏見檢測報告的“算法說明書”，并由法官、技術專家、倫理學者組成的聯合審查委員會進行“穿透式審查”。這種“技術透明化”改革與“算法問責雙軌制”理論形成實踐呼應，通過內部合規和外部監管相結合確保算法合規，既在模型架構中嵌入合規性驗證模塊，實時監控法律推理路徑的規范性，又通過外部監管力量建立“算法決策-司法審查”的反饋閉環，保障技術運行始終符合法治要求。

在全球數字治理規則加速重構的背景下，中國司法智能化的安全治理需堅持自主創新與開放借鑒相結合的發展道路。歐盟《人工智能法案》確立的“風險分級監管”框架，雖為我國構建司法大語言模型準入標準提供了參照，但其難以契合我國司法實際。因此，必須將《新一代人工智能發展規劃》中“安全可控”的技術路線與《最高人民法院關于規范和加強人工智能司法應用的意見》和《最高人民法院關于以高質量審判服務保障科技創新的意見》提出的“科技賦能司法”目標有機銜接，形成具有中國特色的治理范式，這種范式創新體現在三個維度：技術研發層面，推動司法專用大模型的國產化替代，突破TensorFlow、PyTorch等國外框架的技術依賴；標準制定層面，建立融合民法典價值導向與GB/T 35273-2020版《信息安全技術個人信息安全規范》的技術合規體系；制度保障層面，完善從算法備案、運行監測到責任追溯的全鏈條監管制度。這種“技術-標準-制度”的三維治理架構既借鑒了國際經驗中的有益內容，又植根于中國特色社會主義法治實踐，為全球司法智能化治理貢獻了中國方案。

更深層次的治理創新，在于將總體國家安全觀貫穿技術應用全過程。當前，某些境外大語言模型系統的價值滲透風險警示我們：智能司法的算法是技術工具，更是意識形態載體。這要求我們在技術治理中強化主權意識，建立司法大語言模型系統的價值觀過濾機制，將社會主義核心價值觀轉化為可量化的算法約束條件，在類案推薦、文書生成等環節設置“紅色基線”，確保技術應用始終服務于社會主義法治建設。這種治理邏輯的確立，不僅關乎技術安全，更是維護司法主權、塑造數字時代國家法治競爭力的戰略抉擇。

注釋

[1]《上線半年平均結案時間同比縮短25.6%！深圳法院AI輔助審判系統助力提質增效》，2025年1月13日，https://www.dutenews.com/n/article/8636504。

[2]《AI賦能司法革新：全國法院十大AI大模型典型案例盤點》，2025年2月22日，https://www.53ai.com/news/zhishiguanli/2025022275391.html。

Security Dilemmas and Governance Approaches for Large Language Models

in Judicial Applications

Li Feiyan

Abstract: Under the strategic background of coordinated advancement of Digital China and Rule of Law China, the judicial application of large language models is currently confronted with triple security dilemmas: technical opacity, shortcomings in data governance, and value deviations in content. It is imperative to adhere to the holistic approach to national security as the overarching principle, integrate Socialist Core Values into technological applications, and establish a trinity security system encompassing "technical defense-data governance-trustworthy mechanisms". Through institutional innovation that synergizes the "New Generation Artificial Intelligence Development Plan" with judicial reform practices, China can forge a new path of intelligent judicial governance that equally emphasizes technological empowerment and risk prevention. This Chinese-style approach will contribute China's wisdom to global judicial governance in the digital era, achieving a balanced development model where technological advancement coexists with security safeguards while maintaining distinctive national characteristics.

Keywords: intelligent justice, large language models, legal artificial intelligence, trustworthy and controllable

責 編∕鄧楚韻 美 編∕梁麗琛