??

 圖源：搜狐網(wǎng)

多少人還記得去年在微博爆火的視頻：有人將《射雕英雄傳》中朱茵扮演的“黃蓉”換成了楊冪，換臉后的“黃蓉”毫無痕跡，并且輪廓清晰、表情自然，完全看不出是經(jīng)過換臉的。

??

在前幾日，Twitter和Facebook等互聯(lián)網(wǎng)巨頭表示，將對AI換臉等虛假視頻進(jìn)行打擊。比如將對任何“明顯且欺騙性地編輯或捏造”的照片和視頻打上“虛假”警告標(biāo)簽。在這之前，Alphant旗下的Youtube早些時候就表示，將刪除任何經(jīng)過技術(shù)修改，并可能構(gòu)成“嚴(yán)重傷害風(fēng)險”的內(nèi)容。

近兩年，AI換臉技術(shù)在國內(nèi)十分火爆的同時，也引發(fā)了民眾的隱私恐慌，尤其是支付寶等軟件對人臉識別技術(shù)的使用，使得人們重新審視AI換臉技術(shù)的威脅性。

AI換臉如火如荼

其實AI換臉技術(shù)并非現(xiàn)在才有的，在17年底，國內(nèi)引入了一款名為deepfake的軟件，該軟件能夠?qū)⒁曨l和照片中的人臉替換成任何想要替換的人臉，并且能夠達(dá)到以假亂真的程度。

著名影星斯嘉麗·約翰遜就是這樣變成了色情電影的女主角。

?[[315229]]?

斯嘉麗·約翰遜 | 圖源：百度

同樣，擁有著廣泛男性用戶粉絲的P站上，AI換臉早就把各大女明星都“玩”遍了，并且，據(jù)統(tǒng)計，P站的相關(guān)作品中關(guān)于斯嘉麗的是最多的。并且，一些網(wǎng)站上也開始出現(xiàn)用AI換臉來“改編”影視作品的博主。

而這股邪風(fēng)也刮到了國內(nèi)，除了狠刷了一把流量的“朱茵變楊冪”還有“徐錦江對戰(zhàn)滅霸”、“洪世賢換臉艾莉”外，幾乎所有的經(jīng)典影視場景都被AI換臉玩了一遍，這些視頻在b站廣為流傳，播放量驚人。

生產(chǎn)AI換臉視頻的軟件“ZAO”也刷爆朋友圈，大火特火。在以往，一般僅僅是一些視頻愛好者掌握了相關(guān)的操作技能之后再對視頻進(jìn)行換臉制作，再發(fā)布出來供大家觀賞。而這些視頻的制作過程通常較為繁瑣復(fù)雜，對于一般的用戶來說是一個費時費力的工作。

?[[315230]]?

而ZAO的使用門檻很低，使用者不需要編程、數(shù)據(jù)集以及相關(guān)AI知識，甚至不需要電腦，只需要一部手機、一張自拍就可以進(jìn)行操作。

AI換臉帶來的前所未有的參與感、體驗感以及互動性對用戶產(chǎn)生了極大的吸引力，畢竟能將自己的臉放入影視作品中，與自己的偶像來一場“對手戲”，這足以令多少追星少女激動到尖叫，即便是假的，也有滿滿的刺激感。

?[[315231]]?

換臉視頻、ZAO等軟件的出現(xiàn)使得AI換臉技術(shù)被普通大眾所熟知，在普通人用來滿足自己的好奇心與新鮮感的同時，不少人從中看到了“商機”。通過這項技術(shù)，一些不合法的行為多了起來，也引發(fā)了人們對這項技術(shù)的懷疑。

AI換臉伴隨的黑色產(chǎn)業(yè)

在我們的印象中，似乎AI換臉技術(shù)在問世以來好像就沒有“干過”什么實質(zhì)性的好事，例如deepfake自誕生，大部分偽造的虛假視頻都被用于色情行業(yè)了……除了之前所說的影星斯嘉麗·約翰遜被AI換臉放入色情制品，越來越多的女明星的臉通過AI技術(shù)被個人、網(wǎng)站所濫用。

在移動智能產(chǎn)品普及的今天，隱私成為了幾乎不太可能的事情。經(jīng)調(diào)查發(fā)現(xiàn)，目前AI換臉帶來的黑色產(chǎn)業(yè)已經(jīng)形成了完整的產(chǎn)業(yè)鏈，從最下游的色情制品、中游的個性定制視頻、上游的軟件與教程等都有提供。

??

“低于15部4元一部，超過的3元一部，80部只要68元……”“定制‘換臉’視頻一分鐘50元，2分鐘95元，3分鐘135元，3分鐘起定制……”這一類的“廣告語”在很多網(wǎng)站進(jìn)行投放，雖然在淘寶、咸魚等平臺幾乎難以找到這類視頻的商家，但是他們通過各種網(wǎng)站引流到微信、QQ等社交軟件進(jìn)行交易，往往能賺一大筆。

在技術(shù)的支撐下，任何人都有可能成為穿著暴露的色情片主角，這是一件多么令人恐懼的事情，而在當(dāng)前，這些黑色產(chǎn)業(yè)發(fā)展如火如荼，其“興旺”程度令人難以想象。

甚至在進(jìn)行AI換臉之后仍不能夠滿足一些人尋求刺激的心理，開始出現(xiàn)了AI脫衣的應(yīng)用。該應(yīng)用同樣是國外一個技術(shù)團(tuán)隊所研發(fā)出來的，名為deepnude，該軟件的用戶只需要上傳一張女性的照片，軟件就能夠自動“脫掉”照片中女性的衣物，直到能夠看到果體。

而且deepnude只能對女性照片“一鍵脫衣”，目前網(wǎng)絡(luò)上已經(jīng)出現(xiàn)了不少女明星的“果照”，其中包括霉霉與卡戴珊。該軟件在受到廣泛關(guān)注之后雖立即下線，但是試想，如果這項技術(shù)普及且管控不力，會有多少普通女性將深受其害?而AI換臉與AI脫衣這類技術(shù)的結(jié)合，對女性的危害更是難以想象。

娛樂有風(fēng)險，換臉需謹(jǐn)慎

生活在互聯(lián)網(wǎng)技術(shù)飛速發(fā)展、信息爆炸的時代，普通民眾是沒有更多資格去對自己的隱私有所“敏感”的，除非你放棄對技術(shù)的使用。多少人口中喊著隱私保護(hù)、數(shù)據(jù)安全，身體卻誠實地使用它，如同互聯(lián)網(wǎng)對數(shù)據(jù)的渴求，在這種大環(huán)境背景下，是毋庸置疑且可以理解的。

但是，面對這些，法律卻無能為力嗎?

斯嘉麗·約翰遜在接受《華盛頓郵報》采訪時，發(fā)表了自己對于deepfakes的憤怒看法。她表示，“每個國家都有自己的法律，即使你擁有自己形象圖片的版權(quán)，在別的國家也不一行適用，面對充斥網(wǎng)絡(luò)的AI換臉情色片，她和她的團(tuán)隊無能為力。”

Facebook工作人員為了警示社會，也開了一場假的“記者會”，他們與AI換臉后的特朗普進(jìn)行視頻連線交談，在這一過程如果不是事先就知道是假的，沒有人會懷疑視頻的真假。

如果這項技術(shù)運用于政治威脅、敲詐勒索等犯罪事件，其以假亂真的程度會帶來多大的恐慌?因此，對這項技術(shù)的管控似乎迫在眉睫。Twitter、Facebook以及Ins等互聯(lián)網(wǎng)巨頭紛紛采取措施。

在Reddit論壇上原討論板塊將全部被刪除。新開辟的板塊中，與deepfake相關(guān)的討論區(qū)里，前面必須加上SFW(safe for work)的標(biāo)簽。

其中，被整治的最狠的就是P站，與其它平臺保留部分無害內(nèi)容相比，P站直接對AI換臉相關(guān)內(nèi)容進(jìn)行永久性的封殺。

?[[315232]]?

圖源：bilibili

美國眾議院特別情報委員會主席在聽證會上也公開表示，社交媒體應(yīng)立即制定措施保護(hù)用戶不被虛假信息所誘騙。

并且五角大樓投入了數(shù)千萬美元來偵測AI換臉視頻，美國國內(nèi)也興起了一批鑒定視頻真?zhèn)蔚墓荆沁@些措施對于肆虐的AI換臉虛假視頻來說，根本就是杯水車薪的效果。

在這之前，美國加州簽署了兩項關(guān)于deepfake的新法令。一是規(guī)定在未來競選總統(tǒng)的兩個月內(nèi)禁止發(fā)布使用競選人頭像的換臉視頻，任何競選人如果認(rèn)為被deepfake技術(shù)偽造了視頻，可以提出賠償。

另一條則規(guī)定任何加州居民發(fā)現(xiàn)自己的肖像被deepfake技術(shù)用于色情片，就可以提起訴訟。

而在國內(nèi)，對于AI換臉視頻的相關(guān)法律條文的細(xì)節(jié)規(guī)定相對落后，目前并沒有專門針對這方面的專門立法，但是也可以從一些大的法律條文進(jìn)行約束，如未經(jīng)本人統(tǒng)一而擅自使用他人照片、視頻進(jìn)行AI換臉的行為，存在侵犯他人肖像權(quán)、名譽權(quán)的可能，甚至?xí)?gòu)成刑事犯罪。

在2017年3月，個人信息保護(hù)相關(guān)內(nèi)容也被寫入我國民法總則，同年6月，《中華人民共和國網(wǎng)絡(luò)安全法》實施，包含保護(hù)個人信息的條目，最高法和最高檢也出臺了有關(guān)公民個人信息適用法律若干問題的解釋。

?[[315233]]?

圖源：搜狐網(wǎng)

雖說AI換臉技術(shù)目前仍屬于初步階段，但是帶來的影響卻也有目共睹，發(fā)展的潛力令人無法預(yù)測與捉摸。面對一項新技術(shù)的出現(xiàn)與普及，也應(yīng)該利用法律等措施來規(guī)避技術(shù)的風(fēng)險。誠如大衛(wèi)·漢密爾頓法官所言，法律必須致力于日益為技術(shù)和技術(shù)進(jìn)步推動的社會生活。