近年來，深度合成作為一種人工智能內(nèi)容合成技術(shù)，風(fēng)頭正勁，不少虛擬數(shù)字人頻頻走紅網(wǎng)絡(luò)，但由此產(chǎn)生的“雙刃劍”之惑也引發(fā)各方關(guān)注。“由于‘換臉’等深度合成內(nèi)容過于‘逼真’，使交互變得虛實(shí)難辨，耳聽或眼見未必為實(shí)，容易滋生安全隱患。”全國政協(xié)委員、北京金臺(tái)律師事務(wù)所主任皮劍龍?jiān)诮邮苡浾卟稍L時(shí)表示。

2022年11月25日，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）。其中提出，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。《規(guī)定》自2023年1月10日起施行。

據(jù)了解，深度合成技術(shù)是人工智能發(fā)展到一定階段的產(chǎn)物。隨著技術(shù)的發(fā)展，深度合成衍生出包括圖像合成、視頻合成、聲音合成和文本生成等多種技術(shù)，廣泛應(yīng)用于新聞傳媒、影視制作、娛樂、教育和電子商務(wù)等領(lǐng)域。不過，由于操作便捷，成本低廉，深度合成服務(wù)容易被不法人員利用，用于制作、復(fù)制、傳播違法信息，甚至仿用他人身份實(shí)施詐騙。

“《規(guī)定》在此背景下出臺(tái)，為劃定深度合成服務(wù)的‘底線’和‘紅線’，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)發(fā)揮了重要作用。”皮劍龍介紹，對(duì)于深度合成技術(shù)的監(jiān)管，此前在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)中均有提及，而《規(guī)定》則對(duì)深度合成內(nèi)容更有針對(duì)性地進(jìn)行規(guī)制，標(biāo)志著監(jiān)管部門針對(duì)互聯(lián)網(wǎng)信息內(nèi)容監(jiān)管版圖進(jìn)一步細(xì)化。

為防止深度合成技術(shù)被用于犯罪活動(dòng)，《規(guī)定》對(duì)深度合成服務(wù)提供者、技術(shù)支持者等各方責(zé)任義務(wù)進(jìn)行了系統(tǒng)性制度設(shè)計(jì)，包括算法機(jī)制機(jī)理審核、信息內(nèi)容管理、安全評(píng)估、從業(yè)人員教育培訓(xùn)等。皮劍龍認(rèn)為，“可以預(yù)見，《規(guī)定》出臺(tái)后，對(duì)深度合成技術(shù)服務(wù)提供者將進(jìn)行更嚴(yán)格的管理和規(guī)范，也給普通網(wǎng)民起到了‘防火墻’的作用，讓大家的權(quán)益免于侵害。”

在皮劍龍看來，法律的生命力在于實(shí)施，法律法規(guī)只有得到嚴(yán)格執(zhí)行，才能彰顯其權(quán)威和價(jià)值。“各地網(wǎng)信等部門應(yīng)強(qiáng)化常態(tài)化監(jiān)管，發(fā)現(xiàn)存在較大信息安全風(fēng)險(xiǎn)的，應(yīng)按照職責(zé)依法要求其暫停信息更新、賬號(hào)注冊(cè)或其他服務(wù)，進(jìn)一步明確違反《規(guī)定》的法律責(zé)任，同時(shí)加大處罰力度。”

皮劍龍進(jìn)一步認(rèn)為，還應(yīng)強(qiáng)化智能監(jiān)管平臺(tái)支撐，加大科技攻關(guān)力度，深入研究深度合成類算法內(nèi)生安全機(jī)理和深度合成鑒別等關(guān)鍵技術(shù)，推動(dòng)深度合成管理技術(shù)能力建設(shè)。進(jìn)一步強(qiáng)化科普宣貫工作支撐，配合國家人工智能算法綜合治理工作部署，面向互聯(lián)網(wǎng)企業(yè)、重點(diǎn)行業(yè)企業(yè)和相關(guān)管理部門等進(jìn)行《規(guī)定》的宣貫培訓(xùn)。

“治理深度合成服務(wù)亂象，除了相關(guān)部門提升監(jiān)管能力外，還需要社會(huì)總動(dòng)員。”皮劍龍表示，企業(yè)、社會(huì)、網(wǎng)民等多方主體應(yīng)共同參與，特別是廣大網(wǎng)民要主動(dòng)舉報(bào)，共同推動(dòng)深度合成技術(shù)的依法、合理、有效使用，促進(jìn)深度合成服務(wù)向上向善，助力營造清朗網(wǎng)絡(luò)空間，讓技術(shù)成為方便生活、快樂生活的工具，而不是成為損害人民群眾利益的“黑技術(shù)”。（本報(bào)融媒體記者 李敏杰）

《 人民政協(xié)報(bào) 》 （ 2022年12月31日   第 03 版）