禁止“換臉術(shù)”“變聲術(shù)” 深度合成技術(shù)不能“一刀切”

繼算法推薦之后，深度合成也有了單獨(dú)規(guī)范。近期，國家網(wǎng)信辦發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定(征求意見稿)》，并于1月28日至2月28日期間完成意見征求。管理規(guī)定要求，深度合成服務(wù)提供者應(yīng)建立辟謠機(jī)制，使用者要進(jìn)行身份信息認(rèn)證，非真類音頻視頻須有顯著標(biāo)識。

深度合成或許還不為人所熟悉，但若提及“換臉術(shù)”“變聲術(shù)”，恐怕大多數(shù)人不會感到陌生。其實(shí)，深度合成就是利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法，制作文本圖像、音頻視頻、虛擬場景等信息。諸如換臉變聲、AI合成主播、虛擬偶像、修復(fù)老照片、“數(shù)字復(fù)活”、影視劇本地化配音等，都是其場景應(yīng)用。

作為人工智能領(lǐng)域的新實(shí)踐，這項(xiàng)技術(shù)廣泛應(yīng)用于新聞傳媒、影視制作、廣告營銷和社交娛樂等多個領(lǐng)域，市場前景廣闊。比如，語音合成已成為人機(jī)交互重要一環(huán)并衍生出語音導(dǎo)航、有聲讀物、新聞播報(bào)等應(yīng)用，電影制作引入相關(guān)技術(shù)后顯著提升音視頻制作質(zhì)量與效率。另外，技術(shù)背后也有脈脈溫情。去年，第八批在韓中國人民志愿軍烈士遺骸歸國時，有主流媒體運(yùn)用技術(shù)修復(fù)還原志愿軍老照片，廣受好評。今年冬奧會期間，虛擬數(shù)字主播“小聰”用手語為聽障人士解說，走紅網(wǎng)絡(luò)。概而言之，合理應(yīng)用深度合成技術(shù)，既能取得經(jīng)濟(jì)利益，也能產(chǎn)生社會效益。

深度合成的正向應(yīng)用價值有目共睹。然而，隨著技術(shù)門檻不斷降低，濫用惡用的事件頻頻發(fā)生。一些不法之徒惡意利用深度合成技術(shù)偽造虛假語音和視頻，實(shí)施誣陷誹謗、詐騙勒索等違法犯罪行為，給個人、企業(yè)造成聲譽(yù)損害和財(cái)產(chǎn)損失。更要警惕的是，深度合成技術(shù)一定程度上模糊了真實(shí)和虛假的邊界，惡意偽造內(nèi)容通常又迎合獵奇心理，容易在網(wǎng)絡(luò)上產(chǎn)生病毒式傳播。這有可能擾亂社會正常秩序，甚至帶來安全風(fēng)險(xiǎn)。

客觀而言，技術(shù)是價值中立的，本身并沒有對錯和善惡之分。只有當(dāng)技術(shù)被誤用或?yàn)E用，并跨越道德和法律的邊界，才會出現(xiàn)負(fù)面效應(yīng)。倘若不問青紅皂白便“一刀切”地禁止深度合成技術(shù)，不僅阻礙其正向應(yīng)用與創(chuàng)新，也不利于人工智能等相關(guān)產(chǎn)業(yè)發(fā)展。從這個角度來說，我們不僅要推動技術(shù)發(fā)展，更應(yīng)展現(xiàn)出駕馭技術(shù)的智慧。

駕馭技術(shù)，需要法規(guī)作為明確指引。此次，相關(guān)部門出臺管理規(guī)定，可謂做到隨技術(shù)發(fā)展而不斷“查缺補(bǔ)漏”。尤其是規(guī)定中一系列具有針對性和實(shí)效性的要求，劃出清晰紅線，體現(xiàn)規(guī)制亂象的決心，有助于維護(hù)清朗的網(wǎng)絡(luò)生態(tài)。

當(dāng)然，避免深度合成技術(shù)淪為深度偽造騙術(shù)，除了制定實(shí)施法規(guī)，還應(yīng)從技術(shù)、倫理等方面出發(fā)，填補(bǔ)新技術(shù)的約束空白。比如，強(qiáng)化倫理先行的意識，倡導(dǎo)產(chǎn)研發(fā)展自律自治，防止濫用惡用。再如，加強(qiáng)識破偽造的監(jiān)測技術(shù)研究，以精準(zhǔn)識別從源頭上解決安全問題。唯有構(gòu)建多維度治理機(jī)制，多方發(fā)力、共同治理，精確施治、系統(tǒng)遏制，才能實(shí)現(xiàn)技術(shù)賦能生產(chǎn)生活的美好愿景。(潘抒捷)

關(guān)鍵詞： 深度合成技術(shù) 深度合成 數(shù)字復(fù)活 換臉變聲