【法治護(hù)我心——《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》系列解讀】
光明網(wǎng)記者 陳暢、李政葳
“霧里看花，水中望月，你能分辨這變幻莫測的世界……”如果把上個世紀(jì)九十年代這首“315”晚會歌曲，用來描述當(dāng)下互聯(lián)網(wǎng)時代的“云”上生活，在技術(shù)發(fā)展與風(fēng)險伴生之下，“虛”“實”之間讓人頗有迷幻之感。
“再也不敢相信自己的眼睛和耳朵?！碑?dāng)換臉換聲、三維重建、智能對話等逐漸應(yīng)用開來，人們時常發(fā)出這樣的感嘆。這類深度合成服務(wù)催生了美顏美妝、智能客服、虛擬主播等一系列應(yīng)用形態(tài)，但其被惡意利用制作虛假信息內(nèi)容，進(jìn)而帶來了政策干擾、謠言泛濫、低俗內(nèi)容等。因此，我們也在呼吁——“借我一雙慧眼，把這紛擾看個清清楚楚明明白白……”
縱觀互聯(lián)網(wǎng)發(fā)展歷程，技術(shù)治理本身就是一場攻防對抗博弈，也是技術(shù)從創(chuàng)新應(yīng)用到規(guī)范發(fā)展的必經(jīng)之路。近日，這項深度合成技術(shù)被套上了“緊箍咒”——國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），自2023年1月10日起施行。
法立于上則俗成于下。《規(guī)定》出臺劃定了深度合成服務(wù)的“底線”和“紅線”， 邁出我國新技術(shù)新應(yīng)用立法的重要一步，也將有效維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。
明確義務(wù)要求，強(qiáng)化主體責(zé)任
事實上，深度合成技術(shù)由來已久。隨著深度學(xué)習(xí)技術(shù)、特別是對抗式生成網(wǎng)絡(luò)技術(shù)的發(fā)展，深度合成技術(shù)門檻大幅降低。2017年11月，Reddit網(wǎng)站的用戶“deepfakes”發(fā)布偽造視頻，曾一度將這項技術(shù)推至風(fēng)口浪尖，其“以假亂真”的信息內(nèi)容嚴(yán)重威脅國家安全、干擾社會秩序。
何為“深度合成技術(shù)”？《規(guī)定》中給出了明確表述——指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。
具體包括：篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)，文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)，音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)，人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)，圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)等。
誠然，從技術(shù)進(jìn)步的角度看，深度合成技術(shù)應(yīng)用的初衷是讓生成合成內(nèi)容更逼真，但技術(shù)在愈趨“智能”的同時，也不可避免地帶來更多風(fēng)險。對此，中國科學(xué)院信息工程研究所所長孟丹介紹，除深度偽造風(fēng)險外，還包括生成合成信息內(nèi)容帶來的個人信息泄漏、侵犯人格權(quán)和知識產(chǎn)權(quán)等他人合法權(quán)益等風(fēng)險。
深度合成服務(wù)提供者和技術(shù)支持者既是新技術(shù)、新應(yīng)用的創(chuàng)造者、受益者，也應(yīng)該是控制技術(shù)風(fēng)險、引導(dǎo)技術(shù)向善的責(zé)任踐行者。記者梳理發(fā)現(xiàn)，《規(guī)定》明確了深度合成技術(shù)定義和服務(wù)范圍，提出了服務(wù)提供者落實信息安全主體責(zé)任，指出了服務(wù)提供者和技術(shù)支持者備案義務(wù)，并對服務(wù)提供者履行安全評估和配合監(jiān)督檢查義務(wù)提出具體要求。
中國科學(xué)院自動化研究所所長徐波這樣評價：《規(guī)定》分析梳理了深度合成活動邊界，對深度合成服務(wù)提供者、技術(shù)支持者和使用者以及應(yīng)用程序分發(fā)平臺等主體應(yīng)履行的責(zé)任義務(wù)作出規(guī)定。比如，服務(wù)提供者應(yīng)履行建立健全管理制度、對使用者真實身份信息認(rèn)證、加強(qiáng)深度合成信息內(nèi)容管理等義務(wù)，服務(wù)提供者和技術(shù)支持者應(yīng)履行加強(qiáng)訓(xùn)練數(shù)據(jù)管理、加強(qiáng)深度合成技術(shù)管理等義務(wù)。
健全技術(shù)支撐體系，促進(jìn)科技向上向善
從此起彼伏的社會案件中可以看出，深度合成信息內(nèi)容制作和傳播數(shù)量正在高速增長，尤其伴隨“元宇宙”等新模式、新場景不斷落地，深度合成技術(shù)將為智能化、視覺化、場景化、虛擬化的互聯(lián)網(wǎng)信息服務(wù)發(fā)展提供更多技術(shù)方案。孟丹認(rèn)為，《規(guī)定》的出臺是網(wǎng)絡(luò)內(nèi)容治理由結(jié)果管理邁向行為管理的重要一步，標(biāo)志著我國網(wǎng)絡(luò)空間治理能力進(jìn)一步優(yōu)化提升。
時間倒回到兩年前。在2021年12月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，對包括生成合成類在內(nèi)的五類算法推薦服務(wù)進(jìn)行規(guī)范。本次出臺的新規(guī)在之前算法規(guī)定的基礎(chǔ)上，加強(qiáng)對深度合成服務(wù)全過程管理，也深化了備案與評估標(biāo)本兼治。
然而，從技術(shù)發(fā)展階段看，深度合成技術(shù)與應(yīng)用管理仍處于起步階段，在技術(shù)支撐和能力建設(shè)方面還有待進(jìn)一步加強(qiáng)?！凹涌焱七M(jìn)深度合成治理技術(shù)支撐體系建設(shè)，是切實保障深度合成服務(wù)治理工作有力有序推進(jìn)的關(guān)鍵?！泵系ふf。
《規(guī)定》的字里行間，凸顯了“以技術(shù)管技術(shù)”的邏輯，也必將促進(jìn)深度合成服務(wù)的規(guī)范治理?！捌浯_立了我國對深度合成服務(wù)的治理框架，提出了明確的數(shù)據(jù)和技術(shù)管理規(guī)范，為促進(jìn)深度合成技術(shù)向上向善，引導(dǎo)相關(guān)產(chǎn)業(yè)健康發(fā)展，確保互聯(lián)網(wǎng)信息內(nèi)容安全提供了有力的制度保障。”中國政法大學(xué)副校長時建中說。
“《規(guī)定》以促進(jìn)技術(shù)在規(guī)范中發(fā)展為價值取向，在明確‘紅線’的同時，為技術(shù)發(fā)展留足空間?！敝袊畔⑼ㄐ叛芯吭焊痹洪L王志勤這樣認(rèn)為。比如，《規(guī)定》要求深度合成服務(wù)提供者應(yīng)當(dāng)建立算法機(jī)制機(jī)理審核、科技倫理審查等管理制度。
孟丹也建議，從深度合成信息內(nèi)容源頭上，解決其衍生的內(nèi)容安全風(fēng)險，利用技術(shù)創(chuàng)新、技術(shù)對抗等方式持續(xù)提升和迭代檢測技術(shù)的能力，不僅著眼于管理好、使用好、發(fā)展好深度合成技術(shù)及相關(guān)服務(wù)，也致力于深度合成技術(shù)的合法合理合規(guī)使用，促進(jìn)深度合成技術(shù)及相關(guān)服務(wù)健康有序的發(fā)展。
引導(dǎo)多方參與，推動治理走深向?qū)?/strong>
隨著數(shù)字化、智能化進(jìn)程不斷加快，互聯(lián)網(wǎng)信息服務(wù)綜合治理不斷細(xì)化，規(guī)范深度合成活動對營造健康安全的網(wǎng)絡(luò)空間有著重要意義。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，深度合成服務(wù)治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體參與，推動深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風(fēng)險，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展。
《規(guī)定》明確提到，國家和地方網(wǎng)信部門統(tǒng)籌協(xié)調(diào)深度合成服務(wù)的治理和相關(guān)監(jiān)督管理職責(zé)，國務(wù)院電信主管部門、公安部門以及地方相關(guān)部門的監(jiān)督管理職責(zé)。
王志勤認(rèn)為，《規(guī)定》構(gòu)建了統(tǒng)籌協(xié)調(diào)、多方參與的監(jiān)管體制；《規(guī)定》鼓勵相關(guān)行業(yè)加強(qiáng)行業(yè)自律，搭建齊抓共管、協(xié)同共治的治理機(jī)制；《規(guī)定》通過系統(tǒng)化的制度安排，進(jìn)一步構(gòu)建完善了我國網(wǎng)絡(luò)綜合治理法治體系。
孟丹也提到，《規(guī)定》在生成合成類算法服務(wù)范圍、深度合成技術(shù)具體范圍、深度合成服務(wù)業(yè)務(wù)分類、顯式標(biāo)識條件與標(biāo)識方式、隱式標(biāo)識方法與識別等諸多具體方面，仍亟需行業(yè)內(nèi)部進(jìn)一步細(xì)化相關(guān)配套標(biāo)準(zhǔn)規(guī)范。在實際落地過程中，建議業(yè)內(nèi)推進(jìn)產(chǎn)業(yè)聯(lián)盟建立，以產(chǎn)業(yè)自治、多方共治的方式，不斷推進(jìn)深度合成技術(shù)應(yīng)用高質(zhì)量發(fā)展。
為推動深度合成治理走深向?qū)?，徐波建議，強(qiáng)化智能監(jiān)管平臺支撐。比如，深入研究深度合成類算法內(nèi)生安全機(jī)理和深度合成鑒別等關(guān)鍵技術(shù)，推動深度合成管理技術(shù)能力建設(shè)；加強(qiáng)人機(jī)混合的智能監(jiān)管技術(shù)，研究深度合成服務(wù)提供者的安全可控技術(shù)保障方案，把監(jiān)管規(guī)范轉(zhuǎn)化為評估標(biāo)準(zhǔn)，建設(shè)面向網(wǎng)絡(luò)全域監(jiān)管的監(jiān)測管理平臺；研發(fā)深度合成與鑒別對抗機(jī)制，鼓勵新興科技企業(yè)與研究機(jī)構(gòu)開展技術(shù)演練，共同推動深度合成服務(wù)健康發(fā)展。
來源：光明網(wǎng)
