深度合成服務(wù)是我國互聯(lián)網(wǎng)信息內(nèi)容治理的重要領(lǐng)域，因其對互聯(lián)網(wǎng)信息內(nèi)容安全存在巨大影響，是具有高敏感的算法推薦服務(wù)種類。中共中央印發(fā)的《法治社會建設(shè)實施綱要（2020-2025年）》中，明確提出將深度偽造立法作為完善網(wǎng)絡(luò)信息服務(wù)法律法規(guī)的重要項目?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中將生成合成類算法作為五類算法推薦服務(wù)之首進行規(guī)制。由此可見，規(guī)范深度合成技術(shù)、應(yīng)用及服務(wù)在我國互聯(lián)網(wǎng)治理中的重要地位。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下文簡稱《規(guī)定》）的頒布實施，標(biāo)志著我國算法安全治理體系的進一步完善?！兑?guī)定》將深度合成為代表的生成合成類算法作為算法安全治理體系細(xì)化的第一步，一方面是由于深度合成屬于高敏感性的與互聯(lián)網(wǎng)信息內(nèi)容安全息息相關(guān)的技術(shù)應(yīng)用，另一方面是因為深度合成技術(shù)將成為網(wǎng)絡(luò)虛擬空間與現(xiàn)實物理世界虛實結(jié)合、融為一體的關(guān)鍵技術(shù)應(yīng)用，未來存在巨大發(fā)展空間。

一、聚焦深度合成信息內(nèi)容安全

深度合成技術(shù)能否被合法應(yīng)用，是關(guān)系互聯(lián)網(wǎng)信息內(nèi)容安全的大事。虛假信息一直是互聯(lián)網(wǎng)治理的痛點與難點，深度合成技術(shù)的廣泛應(yīng)用則對虛假信息的治理提出了更高的要求。俗語說“耳聽為虛，眼見為實”“有圖有真相”，可見照片、視頻在公眾潛意識中的真實性遠(yuǎn)勝文字。而深度合成技術(shù)則恰恰顛覆了這一公眾認(rèn)知，可以偽造音頻、圖片、視頻，捏造人物的行為與語言。作為人工智能深度學(xué)習(xí)領(lǐng)域的一個分支，深度合成技術(shù)在近幾年迅速興起，為政治、軍事、經(jīng)濟犯罪甚至恐怖活動等提供了新工具，帶來嚴(yán)峻安全挑戰(zhàn)。

基于深度合成一旦被濫用可能造成的巨大風(fēng)險，近年來我國陸續(xù)頒布法律法規(guī)，回應(yīng)深度合成技術(shù)帶來的挑戰(zhàn)。2020年，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局三部門聯(lián)合頒布實施《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確提出對基于深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用上線具有媒體屬性或社會動員功能的音視頻信息服務(wù)開展安全評估，對非真實音視頻信息進行標(biāo)識，不得利用深度學(xué)習(xí)技術(shù)制作并傳播虛假新聞信息，部署鑒別技術(shù)，盡快建立辟謠機制等措施。2020年，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動。2021年開始實施的《民法典》人格權(quán)編中明確規(guī)定，不論是否出于營利目的，均不得利用信息技術(shù)手段偽造他人肖像、聲音。2022年，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確要求不得生成合成虛假新聞信息。

此次《規(guī)定》聚焦深度合成服務(wù)，與既往法律法規(guī)一脈相承，以保障互聯(lián)網(wǎng)信息內(nèi)容安全為主要目標(biāo)?！兑?guī)定》要求深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息?！兑?guī)定》同時要求任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，并要求深度合成服務(wù)提供者建立健全辟謠機制。

以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的數(shù)字領(lǐng)域是我國發(fā)展最快、創(chuàng)新最活躍、輻射最廣泛的新興領(lǐng)域，是公民聚集規(guī)模最大的領(lǐng)域。截至2022年6月，我國網(wǎng)民規(guī)模達(dá)10.51億，互聯(lián)網(wǎng)已成為參與人數(shù)最多的輿論場、意識形態(tài)斗爭的主戰(zhàn)場。確保深度合成服務(wù)應(yīng)用在法律邊界內(nèi)運行，落實深度合成服務(wù)提供者信息安全主體責(zé)任，建立深度合成信息內(nèi)容的辟謠機制，都是《規(guī)定》為確保網(wǎng)絡(luò)信息內(nèi)容安全建立的制度保障。

二、明晰深度合成產(chǎn)業(yè)合規(guī)框架

《規(guī)定》的亮點與特色是結(jié)合深度合成技術(shù)、服務(wù)、應(yīng)用的特點，將監(jiān)管的觸角從信息內(nèi)容服務(wù)層面深入到了技術(shù)開發(fā)應(yīng)用層面，將監(jiān)管的對象從深度合成服務(wù)提供者拓展至深度合成技術(shù)支持者和使用者，同時對深度合成服務(wù)提供者和技術(shù)支持者提出了明確的技術(shù)要求。這些深度合成的合規(guī)要求主要體現(xiàn)于“數(shù)據(jù)和技術(shù)管理”規(guī)范專章。

第一，監(jiān)管從信息內(nèi)容服務(wù)層面深入到技術(shù)開發(fā)應(yīng)用層面。這是由于一方面深度合成技術(shù)的開源開放使得深度合成門檻越來越低，普通民眾僅需少量的圖像、視頻、音頻、文本等樣本數(shù)據(jù)，利用簡便易用的合成工具，就能得到深度合成內(nèi)容。另一方面，深度合成的技術(shù)支持者如何使用訓(xùn)練數(shù)據(jù)、如何設(shè)計算法機制機理、如何開發(fā)應(yīng)用可搭載的模型模板工具，都直接對深度合成服務(wù)的功能應(yīng)用結(jié)果產(chǎn)生影響。因此對互聯(lián)網(wǎng)信息內(nèi)容的監(jiān)管必須將相關(guān)技術(shù)開發(fā)環(huán)節(jié)納入監(jiān)管范疇。

第二，監(jiān)管對象從服務(wù)提供者擴展到技術(shù)支持者與使用者。一是《規(guī)定》將深度合成服務(wù)提供者與技術(shù)支持者并置于監(jiān)管對象之列。這既要求深度合成服務(wù)提供者履行相關(guān)義務(wù)，也要求深度合成技術(shù)支持者在開發(fā)、測試、訓(xùn)練相關(guān)技術(shù)時，就考慮到可能的風(fēng)險與危害，履行相應(yīng)的安全評估責(zé)任、數(shù)據(jù)安全管理義務(wù)等。二是《規(guī)定》尤其強調(diào)了服務(wù)提供者對使用者（用戶）的管理與提示義務(wù)。如要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示使用者（用戶）依法告知被編輯的個人并取得其單獨同意。又如要求服務(wù)提供者履行管理責(zé)任，提示技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)，對使用者輸入數(shù)據(jù)和合成結(jié)果進行審核，并提示使用者應(yīng)顯著標(biāo)識。

第三，監(jiān)管時點從事后追責(zé)前移至技術(shù)開發(fā)、應(yīng)用環(huán)節(jié)，實現(xiàn)問責(zé)可追溯。《規(guī)定》要求深度合成服務(wù)生成或者編輯的信息內(nèi)容，必須進行隱式或者顯著標(biāo)識。這從技術(shù)監(jiān)管層面解決了如何對深度合成信息內(nèi)容進行識別、鑒偽、追蹤的關(guān)鍵問題。深度合成服務(wù)提供者需要采用技術(shù)措施，對深度合成信息內(nèi)容添加隱式標(biāo)識，可以實現(xiàn)鑒偽和追蹤的目的；如果達(dá)到了可能引起公眾混淆或者誤認(rèn)的程度，則必須在合理位置區(qū)域打上顯著標(biāo)識，向公眾提示該信息內(nèi)容是深度合成的。任何組織和個人不得利用技術(shù)手段刪除、篡改、隱匿深度合成標(biāo)識。

三、引導(dǎo)深度合成技術(shù)向上向善

技術(shù)原理是中立的，但技術(shù)的應(yīng)用是蘊含著價值取向的?？萍歼M步，不僅要挖掘科技力量為人類賦能，更應(yīng)展現(xiàn)出人類駕馭與治理技術(shù)的智慧。深度合成技術(shù)的多樣化應(yīng)用、縱深性發(fā)展為人類生活便利與科技變革提供了巨大的想象空間，《規(guī)定》的出臺則是我國推進科技倫理進步、加強技術(shù)治理、促進產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向上向善的重要舉措。

深度合成技術(shù)應(yīng)用多樣、領(lǐng)域多元、形態(tài)多變。定制表情、換裝換發(fā)型軟件給廣大用戶的生活帶來了樂趣和方便。深度合成技術(shù)向善使用，更可挽回經(jīng)濟損失，帶給人情感慰藉。如2019年某人工智能實驗室受一位母親所托，將其癌癥離世的女兒做成可以交互的軟件，合成了女兒的語音保存在互動終端設(shè)備中。深度合成技術(shù)也代表了未來人工智能產(chǎn)業(yè)發(fā)展的重要方向，重新定義了虛擬化數(shù)字生存空間。2021年“元宇宙”概念的爆發(fā)，為深度合成技術(shù)提供了更加寬廣的應(yīng)用場景，同時也促進了深度合成技術(shù)的加速發(fā)展。從更廣泛的傳播學(xué)社會意義上看，一個新的人類生存場景將以深度合成為基石展開?！兑?guī)定》也回應(yīng)了這一人工智能未來的發(fā)展方向，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景、沉浸式擬真場景的技術(shù)，是《規(guī)定》規(guī)制的深度合成技術(shù)的重要類別。

由此可見，《規(guī)定》既立足于信息內(nèi)容安全，也順應(yīng)了人工智能技術(shù)未來發(fā)展趨勢；既重視事后監(jiān)管，也將監(jiān)管的觸角延伸至數(shù)據(jù)訓(xùn)練、技術(shù)開發(fā)等前期時點?！兑?guī)定》為防范深度合成技術(shù)風(fēng)險、規(guī)范深度合成服務(wù)、引導(dǎo)深度合成產(chǎn)業(yè)健康持續(xù)有序發(fā)展奠定了堅實基礎(chǔ)。（作者：張凌寒，中國政法大學(xué)教授）