【學術】季衛東:人工智能時代的司法權之變

-回復 -瀏覽
樓主 2020-06-07 13:39:22
舉報 只看此人 收藏本貼 樓主

原文轉載自微信公眾號“上海市法學會”。

東方法學

本文為精簡版,全文參見《東方法學》2018年第1期。轉載、轉引請注明出處。




智慧設計運動與中國司法改革的新動向


從阿爾巴到阿法狗,再到阿法元,只有十七年。加上20世紀90年代高歌猛進的數碼化、互聯網化的社會結構轉型,也只有不到三十年。就在這段時期里,中國司法系統獲得了某種后發優勢,借助信息技術、互聯網、大數據、云計算以及人工智能提高辦案效率和透明度,使審理流程發生了廣泛而深刻的質變和突變。其結果,不得不承認,裁定的主體、標準以及程序都呈現出前所未有的景象:法院儼然成為判決工廠、法官仿佛是在流水作業線上進行操作的技工、審級制度的意義在削弱、公檢法司不同角色的協同性和統一性在加強。所有這些動向,都對現代法治的制度安排提出了嚴峻的挑戰,都很值得我們認真考察、分析以及思索。筆者試圖在驚呼“機器人法官來了”的社會熱潮中進行一點冷思考,追溯司法體制改革的初心和真諦。




人工智能與法律數據庫的進程


眾所周知,進入20世紀90年代后,數碼信息技術的發達造成了全球互聯互通的“網絡空間”、規模龐大的“網民”和“電子群眾”,也使得“信息高速公路”上的國際犯罪日益活躍、黑客式無政府主義現象不斷蔓延。到1999年左右,中國公安部專門設立計算機管理監察處,并配置了在電子空間巡邏的大量“網警”,利用信息檢索系統偵查犯罪行為和收集證據的“電子偵探”也頗見成效?!熬W絡社會”和“網絡法”的概念也進入大眾傳媒的視野。




司法運營電腦化的技術革新


互聯網和數碼信息技術也為中國審判方式創新和司法體制改革提供了重要的杠桿和機遇。一般而言,傳統式樣法院的基礎設施建設是耗時費力的,需要購置和安放卷帙浩繁的法律法規、判例以及訴訟卷宗,需要相應地擴大辦公面積和人員編制,但計算機系統和多媒體可以幫助原先條件比較落后的中國司法機構實現跨越式發展。司法運營電腦化還可以或多或少在相當程度上解決適格法官人數不足、司法經費匱乏、法律適用統一化程度較低、司法腐敗蔓延等具體問題。在筆者看來,正是基于這些考慮,1999年10月20日最高人民法院頒布的《人民法院五年改革綱要》才把采用信息技術、樹立在線審判體制作為司法改革的重要內容。



中國法院改革綱要期待多媒體和數碼信息技術主要發揮以下三種功能:

1

作為“審理活動的工具”,幫助法官和律師獲得訴訟資料、記錄勘驗和詢問結果、開示證據等;

2

作為“法院管理的裝置”,保存和移送審判數據、及時掌握庭審實況、通過錄音錄像制作法院文書等;

3

作為“實況觀測的窗口”,使得辦案過程實現可視化、對庭審進行現場轉播、輿論監督。為了確保這些功能充分發揮,各地各級法院都制定了有關規章制度。


另外,計算機法律專家系統和司法行政支持系統的研究開發也正式提上議事日程。



圍繞電腦量刑的試驗與爭論


站在中國法律傳統文化的視點來看,可以發現律令制的根本特征在于重案的絕對法定刑主義以及盡量壓縮審判者裁量余地的機械化、細則化的條文構成。由此可見,在中國電腦量刑之所以很容易被接受,并且迅速得到普及,其實是以固有的思維方式為前提條件和催化劑的,倒也不足為奇。


另外還有大家都已經注意到的直接原因,這就是司法活動中存在的辦案質量很參差、審理主體濫用裁量權、司法腐敗、冤假錯案層出不窮、甚至出現一案兩結論的“陰陽判”等嚴重問題,極大地動搖了對人腦判斷的信心,同時也就順理成章地助長了對電腦量刑的客觀性、中立性以及確定性的期待。于是法官和當事人都試圖用科學技術之光來照亮那個容許自由裁量以及非正式操作的暗箱,借助計算機來保證審判的公正、效率以及精密,使審判更加符合統一的專業化標準。在這樣的意義上,有關努力當然是值得給予充分的評價的。


盡管如此,我們還是不得不指出:在現階段對法律專家系統軟件的設計和運用應該持一種慎之又慎的態度,尤其是在電腦量刑方面更不可急于求成,也沒有必要完全排除法官的心證和裁量。要問理由何在,答曰:首先,任何法律專家系統軟件都意味著作出一種純粹的法律實證主義預設。計算機可以處理法律條文內容中的三段論推理以及關于“要件-效果”的條件式推理,也可以處理案例特征與數據庫檢索到的基礎案例特征之間的類似性并進行傾向性推理和判斷,但卻無法適當表現那些決定有效規范在適用上的優劣順序的元規則。在一定程度上不妨認為,不可言說的默示知識就標示出了計算機法律專家系統軟件以及人工智能審判的疆界或者局限之所在。


再者,中國成文法歷來都以簡約相標榜,不乏多種解釋的空間;各個概念的內涵和外延也尚未完全統一。作為法律細則化結果的行政規范和地方規范極其龐雜,不同層面和部門的規定之間往往發生矛盾,使得整合化作業異常困難。凡此種種實像,都是不太適宜于電子計算機處理的。反過來,假如在這樣的狀態下就通過機器把法庭內外的對話和溝通加以格式化、固定化,很可能會阻礙法律解釋學、推理技術、專業化教育以及審判者倫理人格的發展和提高,使司法流于一種檢索和推測的簡單智力游戲。假如這樣的初級系統軟件只被當作審判的輔助性工具,只在有限的范圍內用于減輕檢索負擔以及避免疏漏,那不僅無可非議,還應大力支持。但一旦真要讓法官們據此形成判決,甚至自動生成判決,就難免會遺患無窮。

還有必要指出的是,目前中國關于法律知識的數據庫依然非常不完備。類似電腦量刑那樣的軟件,其核心是法律推理系統,而關于法律推理的研究成果的積累在中國還極其薄弱。




在這樣的情況下,假如采取的只是把有關條文形式化、再追加若干解釋規則的樸素方式,那么作為邏輯程序而執行時就很容易出現知識本身不循環、只是邏輯程序空轉之類的問題,也很難對否定性表現進行適當處理。假如語匯儲量不夠,法律知識的數據庫與推理引擎相結合就很容易頻繁發生沒有意義的檢索。假如存在復數的法律知識數據庫,如何使它們互相聯系兼容并對它們進行排除矛盾和沖突的整合以及有效的一貫化控制,也是頗為棘手的重要課題,需要消耗大量的時間和精力才有望獲得進展。何況法律在不斷修改,知識數據庫的更新以及解釋規則的調整也需要不斷進行,在網絡結構中只要某一事項的重新定義出現過失,就有可能成倍放大誤差、引起自動化處理的結果異?!@也將導致建構和維持電子計算機法律專家系統的成本居高不下。


在中國,更類似的現象倒是最高人民法院關于確定量刑幅度和計算賠償額的具體標準的司法解釋以及一些法院最近試行的量刑指南規則,與電腦自動處理軟件系統其實并沒有什么太多的實質性聯系。既然電腦量刑的宗旨是精密化審判,那么專家系統軟件本身首先就必須經得起精密的“審判”、法官也必須具備不犯誤導鼠標之類人為錯誤的品格素養——這是一個無需計算機就可以推導出來的結論。



訴訟信息系統與智慧法院在各地


與電腦量刑處于不同層面的審判輔助信息系統也在不斷發展,從2007年到2017年這十年,中國各級法院都在快速進入信息化時代。受到“阿法狗”、“阿法元”等新聞熱點的影響,圍繞“機器人法官”、“機器人律師”的話語泡沫也在不斷膨脹,有些地方法院開始大力宣傳諸如判決通過人工智能自動生成、根據大數據對法官判斷的誤差進行矯正等創新舉措。



2017/6

2017年6月初,中央政法委員會組織十幾個專家學者到上海、南京以及貴陽考察司法體制改革試點的成果,各地、各機關介紹經驗的重點其實已經在不經意間從司法體制革新悄然轉向司法技術革新。


智慧法院、數據法院、訴訟服務綜合信息系統、電子質證、案件卷宗流轉的云柜互聯、智能語音庭審流程、裁量權的數據鐵籠、機器人律師,諸如此類的流行語、新概念、前衛現象層出不窮、千姿百態、鏗鏘作響,既讓人感到振奮,也讓人顧慮相關的風險和隱患。無論如何,各地各級的法院都似乎變得越來越像一座座判決工場、各種各樣的法官似乎都變得越來越像在流水線上機械操作的一個個辦案技工。實際上,在很多場合,審判儼然已經成為法官與電腦工程師共同決定的結果,判決自動生成機制也很容易導致數據算法支配個案司法的事態??傊?,審判空間正在發生非常激進的改革,雷厲風行、天翻地覆,并且勢必影響今后各種法律機制設計以及法學教育的場域,我們不能不從正反兩個方面來仔細觀察、深入分析、全面評估“互聯網+”和“人工智能+”在審判空間的各種波及效應,從制度和思想上采取未雨綢繆的應對舉措。



對司法人工智能熱的冷思考


近幾年來隨著社會結構轉型和公民權利意識的加強,中國法院受理的案件規模年均以兩位數增長,頗有訴訟爆炸之勢,導致法官人均辦案件數急劇攀升且居高不下,這也是司法部門積極采用互聯網、大數據、云計算、人工智能等新型信息技術以提高司法效率的重要原因。從上海到貴州,各地法院都在通過案件繁簡分流、核定法官年均最大辦案量、加強考核問責、調整法官與審判輔助人員比例等方式緩解案件積壓事態,提出了“向信息化要人力、要效率”的口號。通過計算機信息檢索系統和其他輔助手段來減少機械性勞動的負荷,提高材料、數據等處理的速度和質量,這的確是行之有效的。在這個意義上完全可以說,“智慧法院”的建設具有重要價值,也大有可為。但是,如果更進一步,讓人工智能超出輔助性手段的范疇而全面應用于審判案件,甚至在很大程度上取代法官的判斷,那就很有可能把司法權引入歧途。因為在案件事實曲折、人際關系復雜、摻雜人性和感情因素的場合,如何根據法理、常識以及對機微的洞察作出判斷并拿捏分寸進行妥善處理其實是一種微妙的藝術,不得不訴諸適格法官的自由心證和睿智,即使人工智能嵌入了概率程序、具有深度學習能力也很難作出公正合理、穩當熨帖、讓人心悅誠服的個案判斷。



更重要的是,對人工智能的過度期待或者誤解可能導致現代法治的制度設計分崩離析,引起社會結構出現矛盾、混亂乃至失控的事態。在現代國家治理體系中,法院是政府權力與個人權利之間關系的校準器,是秩序形成和維持的樞紐。顯而易見,以毫無節制的“人工智能+”方式改造審判空間后,這樣的法官定位勢必發生極大的動搖,甚至造成審判系統乃至司法權的全面解構。


讓人工智能自動生成判決、根據大數據矯正法律決定的偏差等做法勢必形成審判主體的雙重結構、甚至導致決定者的復數化,事實上將出現程序員、軟件工程師、數據處理商、信息技術公司與法官共同作出決定的局面。一旦審判主體和決定者難以特定,那么權力邊界也就變得模糊不清,司法問責制就很容易流于形式,至少推卸責任的可能性被大幅度擴充了。另外,智慧法院的設想如果流于片面、走向極端,普及計算機自動生成判決的機制,勢必導致算法支配審判的事態。當然,計算機生成的只是參考文本,法官還需要審閱矯正;但是在受理案件數激增和法定審理期限剛性規定的雙重壓力下,加上人的思考惰性,或遲或早會出現法官過度依賴參考判決處理案件的傾向。一旦這樣的情況司空見慣,算法獨裁就無從避免。大數據也會使既有判決中存在的失誤、質量問題以及偏差值在無意間被固定化,壓抑通過個案發現合法權利、創新規范、推動制度進化的動態機制。更重要的是,大數據和人工智能將會變成法庭辯論的“斷頭臺”,釀成“一切取決于既定的軟件,面對面的對話式論證算不了什么”的氛圍,使中國本來就很孱弱的法律推理、法律議論以及法律解釋學更加無足輕重。這意味著從根本上改變現代司法過程的結構和功能,使得法官自由心證失去了“從心所欲不逾矩”的制度上、技術上保障。


來源多樣化、規模不斷膨脹的法律數據本來就不可能完美無缺,何況在中國快速發展的過程中還存在比較嚴重的質量問題,甚至也有基于政績考慮的數據造假的問題。在這樣的狀況下,電腦算法其實也構成一個暗箱,如果片面而過度強調大數據和人工智能在司法中的應用,那就很容易使得算法和推斷繼承原有司法實踐的弊端和偏見,甚至還會放大某些缺陷。如果在不經意間司法系統被唯算法論所支配,那么合法正義就難免被算法綁架、被數據處理商綁架的命運。為了防止這樣的暗淡前景,必須借助法院組織法和法官法修改的機會,明確定位裁判主體、案件審理機制以及新型信息技術。從目前的法律修改草案和討論內容來看,“互聯網+”、“人工智能+”的時代變化并沒有及時而充分地反映到立法過程中。

另外,面對法律和計算機程序編碼以及大數據算法的支配,應該強調法官“有思考的服從”原則,并為法官綜合名實、統籌裁量留下充分的空間。再者,判決自動生成的技術如何與法律解釋和法律溝通兼容,如何防止人工智能壓縮法律議論的空間?如何在人工智能時代確保程序、辯論、共識的司法三要件不僅維持,而且還進一步強化?如何為法律職業提供新的堅實基礎?這些問題都是必須認真考慮的。


在新的社會背景下推敲司法責任和司法民主,制度設計不得不面對的兩大問題是:

Question

?如何防止法官的責任負荷太重?

?如何防止法官想方設法推卸責任的行為?

中國解決責任負荷太重的問題,主要進路是發展院外解紛方式或者司法的直接民主化以及借助信息技術提高效率、分散責任。其結果,很容易在審判主體多樣化、審判標準多樣化的狀況下形成某種互相推卸責任、轉嫁責任的通道。計算機軟件系統能夠從技術上確保全程留痕,也許在一定程度上可以減輕類似問題。但是,數據鐵籠、判決自動生成等做法很容易造成算法支配審判的事態,使得法官無從負責,對法官辦案的結果也很難進行切實有效的問責。一旦形成算法專制的局面,法庭辯論、上訴審、專家酌情判斷的意義都會相對化,結果將導致法官的物象化、司法權威的削弱、審判系統的解構,甚至徹底的法律虛無主義。





季衛東

上海交通大學凱原法學院教授、博士生導師

?


我要推薦
轉發到
十大老品牌网赌大全