隨著計(jì)算機(jī)硬件處理能力的提升，人工智能、圖像視頻和音頻制作等技術(shù)的廣泛應(yīng)用，“深度偽造”技術(shù)的學(xué)習(xí)成本和技術(shù)門(mén)檻正大幅降低，通過(guò)網(wǎng)絡(luò)上眾多的共享教程和開(kāi)源的計(jì)算機(jī)程序，這一技術(shù)應(yīng)用正逐漸從情報(bào)部門(mén)、電影廠商和技術(shù)公司等領(lǐng)域，向社會(huì)各層面?zhèn)鞑?。即便是不具備?zhuān)業(yè)算法能力的普通用戶(hù)，也能夠在短時(shí)間內(nèi)掌握并使用。這種技術(shù)能對(duì)聲音、圖像或視頻進(jìn)行數(shù)字處理，以模仿某特定人物，并且隨著輸入神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本量不斷增加，訓(xùn)練生成的數(shù)據(jù)和圖像會(huì)越來(lái)越逼真，觀察者最終無(wú)法通過(guò)肉眼明辨其真?zhèn)巍?/span>“深度偽造”已經(jīng)成為“視頻換臉”的代名詞。
一、“深度偽造”技術(shù)的安全風(fēng)險(xiǎn)與危害
普通用戶(hù)依托計(jì)算機(jī)深度學(xué)習(xí)算法特性，在海量圖像和視頻數(shù)據(jù)的高頻次驅(qū)動(dòng)下，完成技術(shù)演進(jìn)迭代，以極低成本深度合成高逼真度的虛假音視頻，并借助社交媒體等平臺(tái)在互聯(lián)網(wǎng)廣泛傳播，速度遠(yuǎn)超傳統(tǒng)媒體，即使能夠被迅速封殺，也能在起初的很短時(shí)間內(nèi)造成極大地社會(huì)影響。一方面，大量的換臉視頻如果未經(jīng)授權(quán)，會(huì)對(duì)個(gè)人名譽(yù)權(quán)與肖像權(quán)構(gòu)成嚴(yán)重侵害，特別是有一定知名度和社會(huì)影響力的人群；另一方面，不法分子利用漏洞劫持?jǐn)z像頭，利用照片活化、表情操縱等深度偽造技術(shù)解鎖手機(jī)、竊取用戶(hù)私密信息等方式實(shí)施信息盜竊和詐騙，嚴(yán)重危害公眾數(shù)字財(cái)產(chǎn)安全；更為嚴(yán)重的是使辨別信息真?zhèn)巫兊美щy，如被大規(guī)模濫用于偽造身份、混淆視聽(tīng)，以實(shí)現(xiàn)信息欺騙、虛假宣傳與操縱輿論等目的，對(duì)信用體系將造成嚴(yán)重沖擊，給社會(huì)公共治理帶來(lái)嚴(yán)峻挑戰(zhàn)。
二、有關(guān)建議
（一）加強(qiáng)國(guó)內(nèi)國(guó)際合作，不斷完善監(jiān)管政策
在行業(yè)規(guī)范上，網(wǎng)信辦2019年11月發(fā)布《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，第十條、第十一條對(duì)基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用，在立項(xiàng)評(píng)估、制作傳播等方面作出了明確規(guī)定，在第十三條提出了應(yīng)當(dāng)建立健全辟謠機(jī)制；在立法上，《中華人民共和國(guó)民法典》第一千零一十九條規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。
在此基礎(chǔ)上，立法和監(jiān)管部門(mén)要堅(jiān)持底線思維，定期在行業(yè)內(nèi)開(kāi)展安全評(píng)估，完善風(fēng)險(xiǎn)防控機(jī)制和工作預(yù)案，及時(shí)了解技術(shù)發(fā)展趨勢(shì)，將事后監(jiān)管變?yōu)槭虑耙?guī)范，參照國(guó)際間的典型案例，在行業(yè)內(nèi)繼續(xù)探討和研究深度偽造技術(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)與危害，從技術(shù)、政策、法律和教育等不同角度預(yù)判相應(yīng)的監(jiān)管措施。
（二）制定行業(yè)標(biāo)準(zhǔn)，對(duì)發(fā)布信息做好溯源工作
網(wǎng)絡(luò)數(shù)字內(nèi)容多變、隱匿性強(qiáng)，監(jiān)管難度大，應(yīng)建立統(tǒng)一的行業(yè)標(biāo)準(zhǔn)，要求圖像、視頻處理軟件在輸出成品的同時(shí)，內(nèi)部強(qiáng)制嵌入源素材的處理變動(dòng)信息，且不可抹除，使被加工修改過(guò)的信息容易被普通用戶(hù)鑒別。在傳播領(lǐng)域，網(wǎng)絡(luò)信息服務(wù)商應(yīng)對(duì)在自身平臺(tái)發(fā)布的圖像和視頻強(qiáng)制加入內(nèi)嵌水印，隱藏在傳播的文件中，包含信息發(fā)布者、發(fā)布日期、發(fā)布地點(diǎn)等必要內(nèi)容，對(duì)于轉(zhuǎn)發(fā)內(nèi)容也要求必須保留以上關(guān)鍵信息，使網(wǎng)傳內(nèi)容可以溯源，便于及時(shí)發(fā)現(xiàn)違法、違規(guī)信息的源頭。
（三）加強(qiáng)行業(yè)間協(xié)作，升級(jí)技術(shù)進(jìn)行主動(dòng)防范
“深度偽造”技術(shù)檢測(cè)的難點(diǎn)在于肉眼難以辨別，傳統(tǒng)人工內(nèi)容審核難以應(yīng)對(duì)，而智能檢測(cè)面臨算法不斷升級(jí)的“強(qiáng)對(duì)抗性”，技術(shù)能力需不斷升級(jí)迭代，成本較高。不斷升級(jí)主動(dòng)技術(shù)防范與檢測(cè)評(píng)估工作，是降低防范深度偽造技術(shù)危害的必要手段，監(jiān)管部門(mén)應(yīng)聯(lián)合軟件制造商、信息平臺(tái)服務(wù)商、網(wǎng)絡(luò)視頻運(yùn)營(yíng)商，制定行業(yè)規(guī)范，在統(tǒng)一框架下開(kāi)展深度合作，運(yùn)用人工智能、區(qū)塊鏈技術(shù)，開(kāi)發(fā)深度偽造內(nèi)容檢測(cè)平臺(tái)，提升算法效率，降低整體成本，定期開(kāi)展安全評(píng)測(cè)工作，逐步放開(kāi)對(duì)受侵害的個(gè)人用戶(hù)舉證和索賠提供技術(shù)支持服務(wù)，逐步優(yōu)化行業(yè)生態(tài)，形成完善可靠的治理體系。
信息報(bào)送人：張顯友 全國(guó)政協(xié)委員、黑龍江省政協(xié)副主席、民進(jìn)省委會(huì)主委