(相關(guān)資料圖)

題：“AI換臉”等深度合成服務(wù)應(yīng)用要守住安全底線(xiàn)

作者 陳兵 南開(kāi)大學(xué)法學(xué)院副院長(zhǎng)、教授

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(簡(jiǎn)稱(chēng)《規(guī)定》)，要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理和技術(shù)管理，保障數(shù)據(jù)安全，不得非法處理個(gè)人信息，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理等。

首先，應(yīng)當(dāng)明確的是，深度合成服務(wù)屬于算法推薦服務(wù)的一種，應(yīng)用場(chǎng)景十分廣泛。其被應(yīng)用于視頻制作等場(chǎng)景，往往可以提升視頻特效的真實(shí)性，達(dá)到以假亂真的效果。隨著相關(guān)技術(shù)的不斷進(jìn)步，深度合成服務(wù)的技術(shù)應(yīng)用門(mén)檻不斷降低。用戶(hù)往往僅需要進(jìn)行上傳照片等簡(jiǎn)單操作，就可以輕松獲得極為逼真的視覺(jué)效果。

不過(guò)，在帶來(lái)逼真視覺(jué)效果的同時(shí)，深度合成服務(wù)技術(shù)也存在一定的法律風(fēng)險(xiǎn)和侵權(quán)糾紛。比如，一些“AI換臉”軟件正走紅網(wǎng)絡(luò)，用戶(hù)在操作人臉替換軟件時(shí)，僅需上傳個(gè)人照片就可生成新視頻，但其他內(nèi)容均與原視頻保持一致。這種“換臉”軟件的走紅，不僅對(duì)于他人的肖像權(quán)帶來(lái)了侵害，對(duì)于他人對(duì)個(gè)人信息享有的權(quán)利、他人對(duì)原視頻享有的著作權(quán)同樣存在負(fù)面影響，在一定程度上還會(huì)影響相關(guān)視頻平臺(tái)所享有的信息網(wǎng)絡(luò)傳播權(quán)，引發(fā)算法濫用糾紛?！睹穹ǖ洹访鞔_，未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像；《個(gè)人信息保護(hù)法》明確，個(gè)人對(duì)其個(gè)人信息的處理享有知情權(quán)、決定權(quán)，有權(quán)限制或者拒絕他人對(duì)其個(gè)人信息進(jìn)行處理。而人臉替換軟件的應(yīng)用很有可能涉及對(duì)他人個(gè)人信息的處理。而且，他人對(duì)原視頻的制作享有著作權(quán)，使用人臉替換軟件生成新視頻可能對(duì)著作權(quán)也構(gòu)成了侵犯。

《規(guī)定》的出臺(tái)，主要正是為了解決在人臉生成場(chǎng)景中可能存在的侵犯公民對(duì)個(gè)人信息享有的權(quán)利、侵害個(gè)人名譽(yù)權(quán)、危害國(guó)家和社會(huì)安全穩(wěn)定等問(wèn)題，為深度合成服務(wù)的規(guī)范發(fā)展樹(shù)立了安全底線(xiàn)。

具體而言，首先，《規(guī)定》明確深度合成服務(wù)的應(yīng)用不得侵犯國(guó)家、社會(huì)、個(gè)人的合法權(quán)益。盡管技術(shù)具有中立性，但技術(shù)的應(yīng)用應(yīng)當(dāng)堅(jiān)持積極向上的價(jià)值觀(guān)。其次，《規(guī)定》明確深度合成服務(wù)提供者應(yīng)落實(shí)信息安全主體責(zé)任。履行在數(shù)據(jù)、個(gè)人信息、算法、信息發(fā)布、科技倫理等方面的安全保障義務(wù)，提供相應(yīng)的技術(shù)措施進(jìn)行保障。再次，深度合成服務(wù)提供者應(yīng)加強(qiáng)深度合成內(nèi)容管理，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，同時(shí)應(yīng)當(dāng)制定和公開(kāi)管理規(guī)則、平臺(tái)公約，完善服務(wù)協(xié)議，依法依約履行管理責(zé)任，以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)。加強(qiáng)深度合成服務(wù)提供者的行業(yè)自治，鼓勵(lì)自主合規(guī)、積極合規(guī)，形成“有效市場(chǎng)+有為政府”的更好結(jié)合。最后，《規(guī)定》提出深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息，有助于保證互聯(lián)網(wǎng)空間的清朗秩序。

整體來(lái)看，《規(guī)定》聚焦于深度合成服務(wù)技術(shù)，統(tǒng)籌安全與發(fā)展。發(fā)展是安全的前提，安全是發(fā)展的保障。在人工智能的其他技術(shù)與場(chǎng)景中，同樣需要秉持發(fā)展與安全并重的理念，確保各項(xiàng)技術(shù)行穩(wěn)致遠(yuǎn)。第一，可以充分發(fā)揮監(jiān)管部門(mén)、行業(yè)協(xié)會(huì)、相關(guān)企業(yè)、人民群眾等不同主體在治理中的不同優(yōu)勢(shì)，形成“有效市場(chǎng)+有為政府”的更好結(jié)合，構(gòu)建多元主體共治的治理模式；第二，推動(dòng)相關(guān)企業(yè)進(jìn)行高質(zhì)量發(fā)展。在保障安全的基礎(chǔ)上，促進(jìn)各企業(yè)創(chuàng)新驅(qū)動(dòng)，形成人工智能領(lǐng)域的新技術(shù)、新模式、新業(yè)態(tài)；第三，以各種政策措施，服務(wù)保障人工智能領(lǐng)域數(shù)據(jù)和算法產(chǎn)品和產(chǎn)業(yè)的高質(zhì)量發(fā)展，形成公平有序的競(jìng)爭(zhēng)環(huán)境，推動(dòng)各企業(yè)積極出海競(jìng)爭(zhēng)，構(gòu)建人工智能領(lǐng)域發(fā)展的新格局。(中新經(jīng)緯APP)

本文由中新經(jīng)緯研究院選編，因選編產(chǎn)生的作品中新經(jīng)緯版權(quán)所有，未經(jīng)書(shū)面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。選編內(nèi)容涉及的觀(guān)點(diǎn)僅代表原作者，不代表中新經(jīng)緯觀(guān)點(diǎn)。

責(zé)任編輯：張芷菡