習(xí)近平總書記指出，“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題?！弊罡呷嗣穹ㄔ禾岢龀浞职l(fā)揮司法職能作用，促推人工智能健康發(fā)展的要求。黨中央的決策部署為人民法院發(fā)揮司法職能作用，促推在法治軌道上加強和完善人工智能治理提供了遵循、指明了方向。面對人工智能蓬勃發(fā)展帶來的機遇和挑戰(zhàn)，司法如何回應(yīng)時代之變、理念之變、技術(shù)之變，護航人工智能健康發(fā)展，已成為各級人民法院迫切需要研究解決的重要課題。
——深學(xué)篤行習(xí)近平法治思想，切實把握司法護航人工智能健康發(fā)展的根本遵循
在數(shù)字時代，人工智能的創(chuàng)造性發(fā)展既給法治建設(shè)帶來新挑戰(zhàn)，也是賦能法治的新工具。習(xí)近平法治思想和習(xí)近平總書記關(guān)于人工智能的重要論述為司法護航人工智能健康發(fā)展提供了根本遵循。要善于把二者融合起來，一體貫通學(xué)習(xí)、深入貫徹落實，為人工智能健康發(fā)展創(chuàng)造良好法治環(huán)境。
堅持人民至上是司法護航人工智能健康發(fā)展的根本立場。習(xí)近平總書記指出，“要加強人工智能同保障和改善民生的結(jié)合，從保障和改善民生、為人民創(chuàng)造美好生活的需要出發(fā)，推動人工智能在人們?nèi)粘９ぷ?、學(xué)習(xí)、生活中的深度運用，創(chuàng)造更加智能的工作方式和生活方式?！彪S著人工智能深入到醫(yī)療、教育、交通、養(yǎng)老等社會生活的方方面面，在不斷提升群眾生活品質(zhì)的同時，也將帶來無人駕駛侵權(quán)歸責(zé)、醫(yī)療糾紛責(zé)任劃分等方面的法律挑戰(zhàn)。我們要始終堅持人民至上，把維護群眾利益、增進人民福祉作為審理涉人工智能糾紛的核心價值考量，引導(dǎo)人工智能向上向善、服務(wù)促進人的現(xiàn)代化，不斷增強人民群眾的獲得感、幸福感、安全感。
維護公平正義是司法護航人工智能健康發(fā)展的價值目標(biāo)。習(xí)近平總書記指出，“公平正義是司法的靈魂和生命”“努力讓人民群眾在每一個司法案件中感受到公平正義”。根據(jù)歷史唯物主義的闡釋，正義不能脫離我們所處的經(jīng)濟基礎(chǔ)、社會制度以及人的全面發(fā)展而存在，因而具有歷史性、具體性和相對性。作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，人工智能的加速發(fā)展和廣泛應(yīng)用正深刻影響著人們對公平正義的感知和有效實現(xiàn)。當(dāng)前，人工智能已經(jīng)在生產(chǎn)、生活、治理等多個領(lǐng)域承載起多重利益，在生產(chǎn)使用過程中，可能引發(fā)研發(fā)者、生產(chǎn)者、提供者、使用者、社會以及國家等多元利益主體間的多重權(quán)益沖突。長遠(yuǎn)來看，隨著“弱人工智能-強人工智能-超人工智能”的階段性演進，人工智能還可能成為新的“法律人格”主體，并將由此引發(fā)一系列倫理道德、權(quán)利安排、公正標(biāo)準(zhǔn)等事關(guān)公平正義的法律爭議和風(fēng)險挑戰(zhàn)。司法是守護公平正義的最后一道防線，必須緊跟人工智能技術(shù)的發(fā)展步伐，持續(xù)深化司法在人工智能領(lǐng)域的實踐探索，保障各方主體在訴訟中平等地享有程序權(quán)利和實體權(quán)利，努力以數(shù)字正義推動實現(xiàn)更高水平的公平正義。
堅持系統(tǒng)觀念是司法護航人工智能健康發(fā)展的原則和工作方法。習(xí)近平總書記指出，系統(tǒng)觀念是具有基礎(chǔ)性的思想和工作方法。在習(xí)近平法治思想的“十一個堅持”中，“堅持依法治國、依法執(zhí)政、依法行政共同推進，法治國家、法治政府、法治社會一體建設(shè)”“堅持全面推進科學(xué)立法、嚴(yán)格執(zhí)法、公正司法、全民守法”“堅持統(tǒng)籌推進國內(nèi)法治和涉外法治”都是系統(tǒng)觀念在法治領(lǐng)域的具體運用。在審理涉人工智能糾紛案件過程中，可能會遇到大量涉及人工智能生成物權(quán)屬判斷、數(shù)據(jù)權(quán)益保護、數(shù)據(jù)流通利用、算法歧視、深度偽造侵權(quán)等新類型案件，法官往往難以通過對現(xiàn)行法律的簡單“對號入座”準(zhǔn)確作出裁判。因此，必須堅持系統(tǒng)觀念，統(tǒng)籌考量政治、經(jīng)濟、社會和法律等要素作出裁判，實現(xiàn)“三個效果”有機統(tǒng)一。
——主動順應(yīng)“人工智能+”發(fā)展大勢，積極推動人工智能與司法工作深度融合
習(xí)近平總書記強調(diào)，“要加強人工智能同社會治理的結(jié)合”“運用人工智能提高公共服務(wù)和社會治理水平”。《人民法院第六個五年改革綱要（2024-2028年）》要求“充分發(fā)揮人工智能技術(shù)輔助辦案、集約事務(wù)、防控風(fēng)險、方便訴訟等作用”。要主動順應(yīng)“人工智能+”發(fā)展大勢，積極推動人工智能與互聯(lián)網(wǎng)司法工作深度融合，為數(shù)字法院建設(shè)提供有力支撐。
近年來，杭州互聯(lián)網(wǎng)法院在探索網(wǎng)絡(luò)空間司法治理能力現(xiàn)代化的道路上，始終堅持人工智能對審判工作的輔助定位，持續(xù)推動人工智能與司法的全方位深度融合發(fā)展，努力以“人工智能+”互聯(lián)網(wǎng)司法改革創(chuàng)新成果，讓法官獲得“數(shù)字便利”，讓群眾享受“數(shù)字正義”。回顧七年多的實踐探索成果，杭州互聯(lián)網(wǎng)法院利用區(qū)塊鏈技術(shù)不可篡改、不可偽造的特點，上線全國首個司法區(qū)塊鏈平臺，當(dāng)前上鏈存證的電子證據(jù)超67億條，區(qū)塊鏈證據(jù)采信率達(dá)99%，有效破解了電子證據(jù)取證、存證、認(rèn)證難題；以人工智能技術(shù)為依托，上線金融智能合約應(yīng)用，通過該應(yīng)用共簽署借款合同超37萬筆，推動互聯(lián)網(wǎng)金融糾紛治理模式從“治已病”向“治未病”轉(zhuǎn)變；持續(xù)深化“數(shù)助決策”，著力推進司法數(shù)智大腦多維分析利用，數(shù)助內(nèi)部監(jiān)督管理，發(fā)布互聯(lián)網(wǎng)發(fā)展“司法指數(shù)”，有力推動人工智能深度賦能互聯(lián)網(wǎng)司法提質(zhì)增效，為數(shù)字法院建設(shè)積累了寶貴經(jīng)驗。
未來，互聯(lián)網(wǎng)法院要敢于善于把握時代、引領(lǐng)時代，以深度融入全國法院“一張網(wǎng)”建設(shè)為契機，進一步梳理總結(jié)人工智能賦能法院建設(shè)經(jīng)驗，深化在輔助辦案、法院管理、“數(shù)助決策”等領(lǐng)域的探索，促推司法運行向智能化迭代升級，為實現(xiàn)與數(shù)字時代相適應(yīng)的審判方式變革和訴訟格局重塑貢獻力量。
——充分發(fā)揮互聯(lián)網(wǎng)司法職能作用，努力答好司法護航人工智能健康發(fā)展的必答題
近年來，我國已出臺網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法等法律，發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》等政策法規(guī)，逐步搭建起人工智能治理的基本法律框架。但與人工智能的迅猛發(fā)展相比，相關(guān)制度、規(guī)范、標(biāo)準(zhǔn)、程序建設(shè)還存在時間差、空白區(qū)。對此，杭州互聯(lián)網(wǎng)法院堅決扛起“數(shù)字正義領(lǐng)航者”的責(zé)任擔(dān)當(dāng)，做實以裁判樹規(guī)則、以規(guī)則促治理、以治理助發(fā)展，2件案例入選最高人民法院指導(dǎo)性案例、10件案例寫入全國兩會工作報告、9件案例入選人民法院案例庫、66件案例被評為“國字號”典型案例，在涉人工智能、大數(shù)據(jù)、算法等新型糾紛領(lǐng)域，形成一批具有填補空白、樹立規(guī)則、先導(dǎo)示范意義的典型案例。
加強涉人工智能糾紛審判規(guī)律性思維方法的運用。與涉人工智能糾紛打交道，就是在與不斷發(fā)展變化的人工智能技術(shù)和產(chǎn)業(yè)打交道，要求法官的審判思維不能僵化固化，而要以系統(tǒng)觀念為引領(lǐng)，綜合運用場景化思維和審查方法，與時俱進、包容審慎地審理涉人工智能糾紛案件，通過個案辦理促推類案總結(jié)、行業(yè)治理，推動人工智能產(chǎn)業(yè)在法治軌道上健康發(fā)展。
堅持用好場景化審查思維和方法。人工智能有著廣泛的應(yīng)用場景，不同的場景需要不同的人工智能技術(shù)，就可能會帶來不同類型的涉人工智能糾紛。目前尚無法律法規(guī)對人工智能的應(yīng)用場景作出分類指引。算法是人工智能技術(shù)的核心，人工智能是算法的應(yīng)用和體現(xiàn)，二者彼此關(guān)聯(lián)，涉人工智能糾紛和涉算法糾紛之間往往難以分割，因此可以參照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類的分類方法對人工智能的應(yīng)用場景加以審查分析。例如，無人駕駛引發(fā)的交通事故糾紛，可以在調(diào)度決策類應(yīng)用場景中予以探討。在對應(yīng)的場景下審查涉人工智能糾紛，有利于準(zhǔn)確把握爭議焦點、快速厘清法律關(guān)系、妥善化解糾紛。
堅持樹立與時俱進、包容審慎的“適應(yīng)性”治理理念。緊跟人工智能產(chǎn)業(yè)、技術(shù)、應(yīng)用等方面的發(fā)展趨勢，基于人工智能技術(shù)迭代軌跡、產(chǎn)業(yè)發(fā)展瓶頸、監(jiān)管執(zhí)法難點、司法審判爭議、司法需求等審慎作出符合促進人工智能發(fā)展需求的“適應(yīng)性”裁判，精準(zhǔn)回應(yīng)社會的關(guān)切。例如，在網(wǎng)絡(luò)平臺算法誤判責(zé)任否定案中，杭州互聯(lián)網(wǎng)法院查明被告平臺的算法誤判系因技術(shù)水平所限導(dǎo)致，且已盡到合理注意義務(wù)，故秉持鼓勵新技術(shù)發(fā)展的包容態(tài)度，認(rèn)定被告不構(gòu)成違約。對“自動刷量”“直播場控”“自動搶紅包”等濫用算法技術(shù)進行不正當(dāng)競爭的行為，堅決亮劍、嚴(yán)厲打擊，維護公平競爭的市場秩序。例如，在侵害《戰(zhàn)魂》著作權(quán)案中，認(rèn)定被告在使用算法推薦技術(shù)的過程中怠于履行注意義務(wù)構(gòu)成幫助侵權(quán)，體現(xiàn)了對新技術(shù)應(yīng)用的審慎態(tài)度；同時提出，考慮到當(dāng)前的技術(shù)條件、雙方權(quán)利義務(wù)的分配等，不宜對平臺施加事前過濾攔截措施等義務(wù)，則體現(xiàn)了在產(chǎn)業(yè)技術(shù)發(fā)展尚不完善的條件下，不宜對產(chǎn)業(yè)主體施加過重義務(wù)的包容態(tài)度。
加強涉人工智能糾紛裁判規(guī)則的總結(jié)提煉和前瞻性研究。聚焦涉人工智能糾紛的重點難點領(lǐng)域，加強裁判規(guī)則的總結(jié)提煉和相關(guān)問題的前瞻性研究，強化典型案例培樹，積極探索裁判規(guī)則，示范引領(lǐng)人工智能健康發(fā)展。
涉人工智能著作權(quán)糾紛。當(dāng)前，利用生成式人工智能生成圖片、文本、視頻等引發(fā)的著作權(quán)糾紛頻發(fā)。實踐中，要根據(jù)人工智能、算法、大數(shù)據(jù)等技術(shù)發(fā)展新需求，與時俱進把握好作品的認(rèn)定標(biāo)準(zhǔn)、相關(guān)主體的侵權(quán)責(zé)任認(rèn)定。例如，杭州互聯(lián)網(wǎng)法院審理的全國首例“虛擬數(shù)字人案”，對虛擬數(shù)字人本體、“中之人”、經(jīng)營者等多方主體著作權(quán)或鄰接權(quán)進行界定，厘清虛擬數(shù)字人表演者權(quán)歸屬，為虛擬數(shù)字人的權(quán)利歸屬及合理使用邊界確立了裁判規(guī)則。在首例涉生成式人工智能平臺輸出端侵害信息網(wǎng)絡(luò)傳播權(quán)案中，立足人工智能發(fā)展階段，明確作為應(yīng)用層生成式人工智能服務(wù)提供者的合理注意義務(wù)及過錯認(rèn)定規(guī)則，并合理劃定了侵權(quán)責(zé)任認(rèn)定邊界，推動技術(shù)創(chuàng)新與權(quán)利認(rèn)定形成動態(tài)平衡。
涉人工智能不正當(dāng)競爭糾紛。在數(shù)字經(jīng)濟發(fā)展的過程中，存在部分經(jīng)營者濫用先進算法、大數(shù)據(jù)資源等優(yōu)勢實施新型不正當(dāng)競爭行為，損害其他經(jīng)營者的商標(biāo)權(quán)益、商業(yè)秘密、競爭優(yōu)勢、潛在交易機會等違法現(xiàn)象，影響了市場競爭秩序，應(yīng)當(dāng)加大司法審查力度。杭州互聯(lián)網(wǎng)法院通過審理人工智能機器人直播案、手機應(yīng)用流量劫持案、QQ自動搶紅包軟件案等新型不正當(dāng)競爭糾紛案件，形成了系列裁判規(guī)則，為審判實踐提供了參考，為規(guī)范人工智能等新產(chǎn)業(yè)新業(yè)態(tài)新模式健康發(fā)展提供了指引。
涉人工智能人格權(quán)糾紛。近年來，部分不法分子濫用人臉深度合成技術(shù)實施“換臉”行為，成為新型人格權(quán)侵權(quán)的多發(fā)領(lǐng)域?！癆I換臉”本質(zhì)上是對替換者和被替換者面部信息的讀取與重塑，未經(jīng)權(quán)利人同意違法使用“AI換臉”技術(shù)，將直接侵害權(quán)利人的肖像權(quán)。杭州互聯(lián)網(wǎng)法院在“AI換臉”民事公益訴訟案中，依法認(rèn)定被告實施“AI換臉”損害了不特定個人信息權(quán)益，明確將賠償金額專項用于個人信息保護、人臉深度合成技術(shù)不當(dāng)應(yīng)用的治理等事項，彰顯了信息技術(shù)環(huán)境下對人格尊嚴(yán)的深度關(guān)切，推動人工智能更好服務(wù)人的全面發(fā)展。
涉人工智能安全問題。針對人工智能可能出現(xiàn)的安全問題，要未雨綢繆，加強戰(zhàn)略研判，確保人工智能安全、可靠、可控。目前，已經(jīng)出現(xiàn)通過濫用人工智能進行深度偽造、實施生成、傳播虛假信息，詐騙、敲詐勒索、制作傳播淫穢物品等違法犯罪行為，嚴(yán)重危害網(wǎng)絡(luò)安全，應(yīng)當(dāng)引起重視。近年來，杭州互聯(lián)網(wǎng)法院審理的全國首例操縱“網(wǎng)絡(luò)水軍”案，首次明確行為人以營利為目的，組織、操縱“網(wǎng)絡(luò)水軍”進行“轉(zhuǎn)評贊”“轉(zhuǎn)發(fā)”“投訴舉報刪帖”等活動，屬于流量造假和干預(yù)信息呈現(xiàn)的行為，應(yīng)被認(rèn)定為利用網(wǎng)絡(luò)傳播虛假信息的違法行為，努力構(gòu)建健康良性的網(wǎng)絡(luò)信息內(nèi)容生態(tài)環(huán)境和互聯(lián)網(wǎng)信用管理秩序，入選“新時代推動法治進程2024年度十大案件”。對涉嫌犯罪的，審理中要堅持統(tǒng)籌發(fā)展和安全，準(zhǔn)確認(rèn)定不同主體的法律責(zé)任，做好行政處罰和刑事處罰雙向銜接，傳遞司法嚴(yán)守人工智能安全底線、支持人工智能健康發(fā)展的鮮明信號，促進高質(zhì)量發(fā)展和高水平安全良性互動。
加強涉人工智能糾紛的綜合治理?！蛾P(guān)于〈中共中央關(guān)于進一步全面深化改革、推進中國式現(xiàn)代化的決定〉的說明》提出“健全網(wǎng)絡(luò)綜合治理體系”。推進“智能向善”不僅需要精妙的算法，更需要凝聚政府、司法機關(guān)、企業(yè)、高校、科研院所等主體的治理合力，共創(chuàng)呵護人工智能健康發(fā)展的環(huán)境，夯實人工智能健康發(fā)展的支撐。
以司法建議為“小切口”，做實人工智能治理“大文章”。司法建議具有及時預(yù)警、實質(zhì)化解涉人工智能平臺運行、技術(shù)迭代、產(chǎn)業(yè)發(fā)展、場景應(yīng)用等方面存在的風(fēng)險隱患的重要作用。要善于運用司法建議引領(lǐng)人工智能健康發(fā)展。近年來，杭州互聯(lián)網(wǎng)法院聯(lián)合四部門共同簽署全國首個數(shù)字治理領(lǐng)域司法建議《合作備忘錄》，發(fā)出首份《關(guān)于規(guī)范生成式人工智能平臺健康發(fā)展的司法建議書》，發(fā)布《引導(dǎo)企業(yè)數(shù)據(jù)健康發(fā)展行為指引》，助推完善人工智能發(fā)展和管理機制。
深化互聯(lián)網(wǎng)司法研究，推動人工智能治理實踐和理論融合互促。當(dāng)前，人工智能領(lǐng)域的司法實踐逐漸豐富、理論研究生機勃發(fā)，急需加大對實踐經(jīng)驗的理論挖掘，形成人工智能治理的規(guī)律性認(rèn)識，指引人工智能健康發(fā)展。杭州互聯(lián)網(wǎng)法院連續(xù)5次中標(biāo)最高人民法院重點課題，先后主持“算法技術(shù)的法律規(guī)制研究”“數(shù)據(jù)權(quán)益知識產(chǎn)權(quán)司法保護問題研究”“涉人工智能糾紛司法應(yīng)對研究”等重大課題，有效推動涉人工智能司法實踐探索深化與理論研究的“螺旋上升”，為人工智能健康發(fā)展貢獻司法智慧。
加強與司法智庫的合作，共育人工智能治理人才?！度嗣穹ㄔ旱诹鶄€五年改革綱要（2024-2028年）》提出，“加強人民法院與法學(xué)院校、科研機構(gòu)交流合作，完善以實踐為導(dǎo)向的協(xié)同育人機制?！卑盐杖斯ぶ悄苄聶C遇、應(yīng)對人工智能新挑戰(zhàn)，要加強院校合作，共育復(fù)合型數(shù)字法治人才。近年來，國家級實驗室——中國政法大學(xué)數(shù)據(jù)法治實驗室和西南政法大學(xué)網(wǎng)絡(luò)空間國際治理研究基地相繼與杭州互聯(lián)網(wǎng)法院合作，致力于共同推動人才融合培養(yǎng)建設(shè)，塑造一支適應(yīng)戰(zhàn)略性數(shù)字發(fā)展需要的法官和專家隊伍，為推動人工智能在法治軌道上健康發(fā)展提供人才支撐。
?。ū疚倪x自《民主與法制》 作者陳增寶，系杭州互聯(lián)網(wǎng)法院院長、二級高級法官）
題-1.png)
