B站換臉視頻亂象及其治理策略探究

新一輪技術(shù)革命浪潮下，人工智能技術(shù)正迎來蓬勃發(fā)展的新階段，展現(xiàn)出深度學(xué)習(xí)、跨界融合、人機協(xié)同、群智開放和自主操控等鮮明特征。這些技術(shù)的運用，正在對全球經(jīng)濟發(fā)展、社會進步和全球治理產(chǎn)生深遠而重大的影響?？萍紵o疑已成為推動世界前進的第一生產(chǎn)力，但同時，它也如同一把雙刃劍，帶來無盡機遇的同時，也伴隨著眾多挑戰(zhàn)。深度偽造技術(shù)，作為人工智能在深度學(xué)習(xí)領(lǐng)域的一個分支，近年來發(fā)展迅猛，其中最為人們所知的表現(xiàn)形式即為換臉視頻。這些視頻不僅影響了個人隱私和安全，更在一定程度上對社會秩序和國家安全造成了沖擊。本文旨在全面解析深度偽造技術(shù)的背景和發(fā)展現(xiàn)狀，以B站平臺上的換臉視頻為例，深入探討其潛在危害。我們將分析這些危害產(chǎn)生的根源，并提出一系列具有針對性的建議和措施，以期在推動人工智能技術(shù)進步的同時，有效防范和應(yīng)對由此產(chǎn)生的各種風(fēng)險和挑戰(zhàn)。通過本文的闡述，我們期望能夠為構(gòu)建健康、安全的網(wǎng)絡(luò)環(huán)境提供有益的參考和啟示。 

一、深度偽造技術(shù)概述

（一）深度偽造技術(shù)的興起

“深度偽造”一詞源于英文“Deepfake”，是由“Deep learning”（深度學(xué)習(xí)）和“Fake”（偽造）兩個詞匯組合而成。其起源可以追溯到美國社交新聞媒體紅迪網(wǎng)（reddit）上的一段引起轟動的視頻。這段視頻由名為“deepfakes”的用戶發(fā)布，內(nèi)容是將女明星的臉部與色情內(nèi)容合成，一經(jīng)發(fā)布即迅速傳播開來。盡管該視頻因舉報而被下架，但該用戶隨后公開了制作該視頻的算法，使得深度偽造視頻的制作變得相對簡單。

隨著技術(shù)的不斷進步，越來越多的深度偽造方法和應(yīng)用程序涌現(xiàn)出來，如國外的FaceApp、FakeApp、FaceToFace、DeepFaceLab，以及國內(nèi)曾出現(xiàn)過的ZAO、螞蟻呀嘿等換臉軟件（這些軟件目前均已下架）。這些工具不僅限于視頻制作，還擴展到了圖像、音頻制作等領(lǐng)域，對娛樂、教育等多個領(lǐng)域產(chǎn)生了廣泛影響。

（二）深度偽造技術(shù)的應(yīng)用

深度偽造技術(shù)，作為一種基于深度學(xué)習(xí)的工具，其本質(zhì)上并不具備善惡屬性。在狹義的理解上，該技術(shù)主要指的是通過深度學(xué)習(xí)進行人像合成的視頻技術(shù)，其中最為人們所熟知的是AI換臉技術(shù)，例如deepfake、face 2 face等。而從更廣義的角度來看，深度偽造技術(shù)涵蓋了聲音、圖像、文本和視頻等多個領(lǐng)域的偽造技術(shù)，不僅在醫(yī)學(xué)成像、歷史影像復(fù)原和影視劇制作等領(lǐng)域有所應(yīng)用，還對社會產(chǎn)生了廣泛的影響。

在眾多深度偽造技術(shù)的應(yīng)用中，“換臉”視頻無疑是最為典型且廣泛的一種。在國內(nèi)，雖然曾經(jīng)涌現(xiàn)出的一些換臉視頻平臺如今已經(jīng)下架，但換臉視頻仍然大量存在于抖音、快手、B站等平臺上。特別是B站，作為一個多元文化社區(qū)，聚集了大量的當(dāng)代青年人。這些青年人往往追求新興技術(shù)，同時B站獨特的鬼畜文化也進一步推動了換臉視頻在該平臺的流行。然而，隨著換臉視頻的廣泛傳播，也帶來了一系列不容忽視的問題。

二、B站換臉視頻的特點及危害

（一）B站換臉視頻的特點

1.高度真實

深度偽造技術(shù)為B站等平臺上的換臉視頻提供了強大的技術(shù)支持。這些視頻的制作需要大量的人臉樣本進行投入和訓(xùn)練，通過對人物面部肌肉和微表情的精細算法分析，生成極其逼真的換臉效果，以至于B站的用戶僅憑肉眼難以分辨真?zhèn)?/span>。展望未來，隨著技術(shù)的不斷進步，基于眨眼頻率、聲音、微表情、文本等多模態(tài)特征融合的假視頻制作技術(shù)將成為一個新的發(fā)展趨勢。這意味著，隨著多模態(tài)特征融合技術(shù)的廣泛應(yīng)用，普通公眾識別和辨別深度偽造作品的難度將進一步加大。

2.制作簡單

雖然深度偽造技術(shù)的原理相當(dāng)復(fù)雜，但隨著網(wǎng)絡(luò)的迅猛發(fā)展，軟件公司能夠相對容易地獲取大量的人臉信息用于技術(shù)訓(xùn)練。這得益于機器學(xué)習(xí)算法的進步、易于訪問的數(shù)據(jù)庫以及開放源代碼的普及，使得即使沒有深度學(xué)習(xí)算法專業(yè)知識的個人或團體，也能夠輕易地將這三者結(jié)合起來。在這樣的背景下，為了追逐商業(yè)利益，軟件公司紛紛根據(jù)用戶需求開發(fā)出各種換臉功能。這些功能通過簡單的操作界面和易用的APP形式，使得普通用戶能夠輕松地對視頻中的人物進行換臉操作，從而產(chǎn)生大量換臉視頻。

3.傳播廣泛

互聯(lián)網(wǎng)的迅猛發(fā)展為B站提供了巨大的用戶基礎(chǔ)，使得自媒體時代下的每個人都能輕松通過平臺進行視頻創(chuàng)作、發(fā)布和傳播。在這樣的環(huán)境下，UP主們利用深度偽造技術(shù)制作的換臉視頻，一旦通過平臺的審核，便能在B站上發(fā)布并廣泛傳播。這些視頻通過觀眾的點贊、轉(zhuǎn)發(fā)、收藏和投幣等操作，進一步擴大了其影響力，吸引了更多的觀眾參與互動。

（二）B站換臉視頻的危害

1.侵害個人隱私

在B站上流傳的換臉視頻中，所涉及的被換臉對象涵蓋了明星、網(wǎng)紅以及普通民眾。當(dāng)這些視頻被上傳至互聯(lián)網(wǎng)時，可能會侵犯到當(dāng)事人的肖像權(quán)。尤其是當(dāng)換臉視頻被用于惡搞或諷刺時，更容易對當(dāng)事人的名譽權(quán)造成損害，甚至給其貼上莫須有的罪名。更為嚴(yán)重的是，若這些視頻被不法分子利用，進行敲詐勒索等惡意行為，將會對公民的財產(chǎn)和人身安全構(gòu)成嚴(yán)重威脅。

2.擾亂社會秩序

涉及公眾人物的換臉視頻一旦廣泛傳播，將對社會信任體系產(chǎn)生深遠影響，導(dǎo)致公眾對媒體的公信力產(chǎn)生質(zhì)疑。在學(xué)術(shù)領(lǐng)域，這種現(xiàn)象被視為對信息傳播真實性和可靠性的挑戰(zhàn)。若惡意勢力利用換臉視頻進行謠言散布，進而操控公眾意識，將加劇公眾對媒體平臺上信息真?zhèn)蔚囊蓱]，進而破壞社會的穩(wěn)定秩序。

3.威脅國家安全

深度偽造技術(shù)以其高度的逼真性和可操作性，為國家間的政治博弈、軍事欺騙、經(jīng)濟犯罪以及恐怖主義行動提供了新的手段。在社交媒體平臺如B站上，存在大量針對外國領(lǐng)導(dǎo)人的換臉視頻，這些視頻雖然可能源于創(chuàng)作者的娛樂目的，但在廣泛傳播的過程中，難免會出現(xiàn)解讀上的偏差和誤解。更為嚴(yán)重的是，若某些網(wǎng)絡(luò)間諜或惡意勢力有意利用這些換臉視頻進行政治抹黑或誤導(dǎo)公眾，將可能對國家形象造成損害，引發(fā)公眾恐慌，甚至對國家安全構(gòu)成嚴(yán)重威脅。

三、B站換臉視頻的管理缺陷

（一）與深度偽造技術(shù)應(yīng)用相關(guān)的法律缺失

在中國，尚未有專門的法律條文對深度偽造技術(shù)的應(yīng)用進行直接規(guī)范，這間接導(dǎo)致了B站上換臉視頻的泛濫現(xiàn)象。盡管2019年5月28日國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《數(shù)據(jù)安全管理辦法（征求意見稿）》中，第三章第二十四條規(guī)定了網(wǎng)絡(luò)運營者在利用技術(shù)自動合成信息時應(yīng)標(biāo)明“合成”字樣，并禁止以謀取利益或損害他人利益為目的的合成行為，但對于深度偽造技術(shù)和換臉視頻的法律法規(guī)體系仍不完整，缺乏全面和深入的規(guī)范標(biāo)準(zhǔn)。這導(dǎo)致B站在管理用戶行為時缺乏明確的法律依據(jù)和審核標(biāo)準(zhǔn)。

（二）平臺與創(chuàng)作者責(zé)任界線模糊不清

由于換臉視頻上傳者的責(zé)任界定不明確，導(dǎo)致難以確定誰應(yīng)對其內(nèi)容、制作和傳播負責(zé)。這種模糊的責(zé)任劃分可能使制作者誤解其行為的合法性，同時也讓平臺難以制定明確的審核和處置標(biāo)準(zhǔn)。B站作為大型視頻平臺，面臨每天大量上傳的視頻，其中混雜著深度偽造技術(shù)制作的換臉視頻。目前，B站僅在部分換臉視頻下方提供“該內(nèi)容疑似使用AI技術(shù)合成，請謹慎甄別”的提醒，缺乏統(tǒng)一標(biāo)準(zhǔn)。這種不明確導(dǎo)致平臺難以有效審核和過濾換臉視頻，影響用戶對平臺和創(chuàng)作者的信任。用戶可能誤以為所有視頻均經(jīng)過合法審核，而實際上存在偽造和侵權(quán)問題。

（三）產(chǎn)生危害后補救措施不完善

深度偽造視頻一旦傳播并造成危害，B站現(xiàn)行的處理策略顯現(xiàn)出若干不足。首要問題是其對于違規(guī)視頻的應(yīng)對不夠迅速，導(dǎo)致這些視頻在平臺上的存續(xù)時間過長，從而加劇了其擴散范圍和對用戶的潛在傷害。其次，B站在面對深度偽造視頻所引發(fā)的個人隱私侵犯、名譽誹謗或虛假信息傳播等問題時，缺乏明確而有效的信息恢復(fù)機制。盡管平臺保持中立立場，但在協(xié)助受害者迅速刪除、修復(fù)或反駁虛假內(nèi)容方面，其反應(yīng)并不夠迅速，這無疑增加了受害者的困擾和損失。

四、B站換臉視頻的規(guī)制建議

（一）制定針對深度偽造視頻的規(guī)范

B站，作為一個匯聚大量用戶生成內(nèi)容的視頻平臺，對于深度偽造技術(shù)的應(yīng)用和管理承擔(dān)著重要的責(zé)任。為了確保用戶、社會和國家的利益不受損害，B站必須與政府、法律機構(gòu)以及其他相關(guān)方展開緊密合作，共同制定全面且明確的深度偽造技術(shù)應(yīng)用規(guī)范。

首先，明確規(guī)范深度偽造技術(shù)的使用行為至關(guān)重要。這包括但不限于定義冒充他人、傳播虛假信息、侮辱他人等違規(guī)行為，確保制作者和平臺都能清晰地了解哪些行為是不被允許的。同時，針對深度偽造技術(shù)在特定場景，如政治宣傳、選舉活動、犯罪活動中的使用，應(yīng)明確規(guī)定其禁止性，以維護社會穩(wěn)定和國家安全。

其次，為了增強用戶對深度偽造視頻的辨識能力，應(yīng)明確標(biāo)識和水印要求。所有使用深度偽造技術(shù)制作的視頻都必須在畫面上顯著標(biāo)注“深度偽造”或類似字樣，以提醒用戶注意視頻內(nèi)容的真實性。

此外，建立完善的用戶舉報和申訴機制也是必不可少的。這一機制應(yīng)專注于處理深度偽造相關(guān)的違規(guī)視頻和制作者，確保違規(guī)內(nèi)容能夠及時發(fā)現(xiàn)并得到妥善處理。同時，提供申訴通道，為被誤判的制作者提供申辯的機會。

總之，B站應(yīng)積極與政府、法律機構(gòu)以及其他相關(guān)方合作，共同制定明確的深度偽造技術(shù)應(yīng)用規(guī)范。這不僅有助于保護用戶、社會和國家的利益，還能促進深度偽造技術(shù)的健康發(fā)展，為社會帶來更多積極的影響。

（二）明確平臺監(jiān)管的職責(zé)和創(chuàng)作者使用的程度

B站在深度偽造視頻的管理上，需要構(gòu)建一個全面且明確的責(zé)任體系。這一體系旨在明確創(chuàng)作者在創(chuàng)作和上傳深度偽造視頻時的法律責(zé)任，并強化審核機制，從而保障用戶的權(quán)益和社區(qū)的信譽。

首先，B站作為視頻分享平臺，其首要責(zé)任是確保平臺上的內(nèi)容不違背社會公序良俗，不侵犯他人權(quán)益，且不會對社會的安全穩(wěn)定造成威脅。為實現(xiàn)這一目標(biāo)，B站需要制定并執(zhí)行嚴(yán)格的審核標(biāo)準(zhǔn)，投入足夠的審核人力資源和技術(shù)支持，以構(gòu)建一個高效、準(zhǔn)確的審核機制。這不僅可以確保上傳的換臉視頻內(nèi)容合規(guī)，也能及時識別和處理違規(guī)內(nèi)容，避免其對社會造成不良影響。

其次，對于創(chuàng)作者來說，他們需要明確了解在使用深度偽造技術(shù)時的倫理和法律邊界。創(chuàng)作者應(yīng)避免利用該技術(shù)進行虛假陳述、人身攻擊或其他惡意行為。特別是在涉及政治、宗教等敏感領(lǐng)域，應(yīng)明確禁止深度偽造技術(shù)的使用，以防止其被濫用或用于煽動仇恨和破壞社會穩(wěn)定。

此外，為了提升創(chuàng)作者和用戶對深度偽造技術(shù)合規(guī)使用的認知，B站還應(yīng)加強對相關(guān)法律法規(guī)的宣傳和教育。這可以通過發(fā)布指導(dǎo)手冊、組織線上培訓(xùn)或開展相關(guān)研討會等形式實現(xiàn)，幫助創(chuàng)作者和用戶更好地理解和掌握深度偽造技術(shù)的合法使用方式。

綜上所述，明確B站的監(jiān)管職責(zé)和創(chuàng)作者在使用深度偽造技術(shù)時的行為準(zhǔn)則，是確保深度偽造視頻合規(guī)傳播和良性發(fā)展的關(guān)鍵。這不僅有助于保護用戶權(quán)益和維護社會公共利益，還能推動深度偽造技術(shù)在積極、合法的軌道上持續(xù)發(fā)展和創(chuàng)新。

（三）提升公眾對深度偽造視頻的認知

公眾對深度偽造技術(shù)的認知對于其理解和判斷具有決定性的影響。深度偽造視頻能夠制作出高度逼真的虛假內(nèi)容，模仿真實場景，這種逼真性常常誤導(dǎo)公眾認為視頻內(nèi)容是真實的。因此，提高公眾對深度偽造技術(shù)的認知至關(guān)重要。

首先，公眾需要了解深度偽造技術(shù)的基本原理和應(yīng)用范圍。這種技術(shù)不僅僅局限于換臉視頻，還廣泛應(yīng)用于電影特效、虛擬現(xiàn)實、醫(yī)學(xué)診斷等多個領(lǐng)域。通過了解這些多樣化應(yīng)用，公眾可以更加全面地認識深度偽造技術(shù)，避免將其簡單地視為負面技術(shù)。

其次，公眾還需要對深度偽造視頻的潛在風(fēng)險和危害有清晰的認識。這種技術(shù)可能被惡意利用，用于制作虛假信息、網(wǎng)絡(luò)詐騙、破壞社會穩(wěn)定等有害內(nèi)容。了解這些風(fēng)險可以幫助公眾增強警惕性，避免成為深度偽造技術(shù)的受害者。

為了提升公眾對深度偽造技術(shù)的認知，我們需要加強教育、宣傳和信息披露工作。通過廣泛傳播相關(guān)知識和信息，幫助公眾形成正確的認知和態(tài)度，確保他們能夠理性應(yīng)對深度偽造技術(shù)。同時，我們還需要鼓勵公眾積極參與討論和交流，分享對深度偽造技術(shù)的看法和體驗，共同推動社會對這一技術(shù)的正確理解和應(yīng)用。

綜上所述，提升公眾對深度偽造技術(shù)的認知是確保社會公眾能夠理性應(yīng)對這種技術(shù)的關(guān)鍵。通過加強教育、宣傳和信息披露，我們可以幫助公眾形成正確的認知和態(tài)度，避免受到深度偽造技術(shù)的負面影響，并充分發(fā)揮其在各個領(lǐng)域的積極作用。

五、結(jié)語

   深度偽造技術(shù)，作為人工智能時代的產(chǎn)物，其在網(wǎng)絡(luò)傳播中的影響力日益顯著。然而，這種技術(shù)也對個人、社會和國家造成了一定的潛在危害。換臉視頻作為深度偽造技術(shù)的典型應(yīng)用，其廣泛流行使得問題更加凸顯，特別是在像B站這樣擁有大量用戶生成內(nèi)容的平臺上。針對這一現(xiàn)象，通過制定規(guī)范、明確職責(zé)、提升公眾認知等多方面的努力，我們可以實現(xiàn)深度偽造技術(shù)的正向使用，為人類社會帶來積極的影響。這需要政府、平臺、創(chuàng)作者和公眾共同努力，以確保技術(shù)在為社會服務(wù)的同時，不損害個人、社會和國家的利益。

文章來源：  《文化產(chǎn)業(yè)》   http://m.xwlcp.cn/w/wy/32640.html