??

 圖源：搜狐網

多少人還記得去年在微博爆火的視頻：有人將《射雕英雄傳》中朱茵扮演的“黃蓉”換成了楊冪，換臉后的“黃蓉”毫無痕跡，并且輪廓清晰、表情自然，完全看不出是經過換臉的。

??

在前幾日，Twitter和Facebook等互聯(lián)網巨頭表示，將對AI換臉等虛假視頻進行打擊。比如將對任何“明顯且欺騙性地編輯或捏造”的照片和視頻打上“虛假”警告標簽。在這之前，Alphant旗下的Youtube早些時候就表示，將刪除任何經過技術修改，并可能構成“嚴重傷害風險”的內容。

近兩年，AI換臉技術在國內十分火爆的同時，也引發(fā)了民眾的隱私恐慌，尤其是支付寶等軟件對人臉識別技術的使用，使得人們重新審視AI換臉技術的威脅性。

AI換臉如火如荼

其實AI換臉技術并非現(xiàn)在才有的，在17年底，國內引入了一款名為deepfake的軟件，該軟件能夠將視頻和照片中的人臉替換成任何想要替換的人臉，并且能夠達到以假亂真的程度。

著名影星斯嘉麗·約翰遜就是這樣變成了色情電影的女主角。

?[[315229]]?

斯嘉麗·約翰遜 | 圖源：百度

同樣，擁有著廣泛男性用戶粉絲的P站上，AI換臉早就把各大女明星都“玩”遍了，并且，據(jù)統(tǒng)計，P站的相關作品中關于斯嘉麗的是最多的。并且，一些網站上也開始出現(xiàn)用AI換臉來“改編”影視作品的博主。

而這股邪風也刮到了國內，除了狠刷了一把流量的“朱茵變楊冪”還有“徐錦江對戰(zhàn)滅霸”、“洪世賢換臉艾莉”外，幾乎所有的經典影視場景都被AI換臉玩了一遍，這些視頻在b站廣為流傳，播放量驚人。

生產AI換臉視頻的軟件“ZAO”也刷爆朋友圈，大火特火。在以往，一般僅僅是一些視頻愛好者掌握了相關的操作技能之后再對視頻進行換臉制作，再發(fā)布出來供大家觀賞。而這些視頻的制作過程通常較為繁瑣復雜，對于一般的用戶來說是一個費時費力的工作。

?[[315230]]?

而ZAO的使用門檻很低，使用者不需要編程、數(shù)據(jù)集以及相關AI知識，甚至不需要電腦，只需要一部手機、一張自拍就可以進行操作。

AI換臉帶來的前所未有的參與感、體驗感以及互動性對用戶產生了極大的吸引力，畢竟能將自己的臉放入影視作品中，與自己的偶像來一場“對手戲”，這足以令多少追星少女激動到尖叫，即便是假的，也有滿滿的刺激感。

?[[315231]]?

換臉視頻、ZAO等軟件的出現(xiàn)使得AI換臉技術被普通大眾所熟知，在普通人用來滿足自己的好奇心與新鮮感的同時，不少人從中看到了“商機”。通過這項技術，一些不合法的行為多了起來，也引發(fā)了人們對這項技術的懷疑。

AI換臉伴隨的黑色產業(yè)

在我們的印象中，似乎AI換臉技術在問世以來好像就沒有“干過”什么實質性的好事，例如deepfake自誕生，大部分偽造的虛假視頻都被用于色情行業(yè)了……除了之前所說的影星斯嘉麗·約翰遜被AI換臉放入色情制品，越來越多的女明星的臉通過AI技術被個人、網站所濫用。

在移動智能產品普及的今天，隱私成為了幾乎不太可能的事情。經調查發(fā)現(xiàn)，目前AI換臉帶來的黑色產業(yè)已經形成了完整的產業(yè)鏈，從最下游的色情制品、中游的個性定制視頻、上游的軟件與教程等都有提供。

??

“低于15部4元一部，超過的3元一部，80部只要68元……”“定制‘換臉’視頻一分鐘50元，2分鐘95元，3分鐘135元，3分鐘起定制……”這一類的“廣告語”在很多網站進行投放，雖然在淘寶、咸魚等平臺幾乎難以找到這類視頻的商家，但是他們通過各種網站引流到微信、QQ等社交軟件進行交易，往往能賺一大筆。

在技術的支撐下，任何人都有可能成為穿著暴露的色情片主角，這是一件多么令人恐懼的事情，而在當前，這些黑色產業(yè)發(fā)展如火如荼，其“興旺”程度令人難以想象。

甚至在進行AI換臉之后仍不能夠滿足一些人尋求刺激的心理，開始出現(xiàn)了AI脫衣的應用。該應用同樣是國外一個技術團隊所研發(fā)出來的，名為deepnude，該軟件的用戶只需要上傳一張女性的照片，軟件就能夠自動“脫掉”照片中女性的衣物，直到能夠看到果體。

而且deepnude只能對女性照片“一鍵脫衣”，目前網絡上已經出現(xiàn)了不少女明星的“果照”，其中包括霉霉與卡戴珊。該軟件在受到廣泛關注之后雖立即下線，但是試想，如果這項技術普及且管控不力，會有多少普通女性將深受其害?而AI換臉與AI脫衣這類技術的結合，對女性的危害更是難以想象。

娛樂有風險，換臉需謹慎

生活在互聯(lián)網技術飛速發(fā)展、信息爆炸的時代，普通民眾是沒有更多資格去對自己的隱私有所“敏感”的，除非你放棄對技術的使用。多少人口中喊著隱私保護、數(shù)據(jù)安全，身體卻誠實地使用它，如同互聯(lián)網對數(shù)據(jù)的渴求，在這種大環(huán)境背景下，是毋庸置疑且可以理解的。

但是，面對這些，法律卻無能為力嗎?

斯嘉麗·約翰遜在接受《華盛頓郵報》采訪時，發(fā)表了自己對于deepfakes的憤怒看法。她表示，“每個國家都有自己的法律，即使你擁有自己形象圖片的版權，在別的國家也不一行適用，面對充斥網絡的AI換臉情色片，她和她的團隊無能為力?！?/p>

Facebook工作人員為了警示社會，也開了一場假的“記者會”，他們與AI換臉后的特朗普進行視頻連線交談，在這一過程如果不是事先就知道是假的，沒有人會懷疑視頻的真假。

如果這項技術運用于政治威脅、敲詐勒索等犯罪事件，其以假亂真的程度會帶來多大的恐慌?因此，對這項技術的管控似乎迫在眉睫。Twitter、Facebook以及Ins等互聯(lián)網巨頭紛紛采取措施。

在Reddit論壇上原討論板塊將全部被刪除。新開辟的板塊中，與deepfake相關的討論區(qū)里，前面必須加上SFW(safe for work)的標簽。

其中，被整治的最狠的就是P站，與其它平臺保留部分無害內容相比，P站直接對AI換臉相關內容進行永久性的封殺。

?[[315232]]?

圖源：bilibili

美國眾議院特別情報委員會主席在聽證會上也公開表示，社交媒體應立即制定措施保護用戶不被虛假信息所誘騙。

并且五角大樓投入了數(shù)千萬美元來偵測AI換臉視頻，美國國內也興起了一批鑒定視頻真?zhèn)蔚墓?，但是這些措施對于肆虐的AI換臉虛假視頻來說，根本就是杯水車薪的效果。

在這之前，美國加州簽署了兩項關于deepfake的新法令。一是規(guī)定在未來競選總統(tǒng)的兩個月內禁止發(fā)布使用競選人頭像的換臉視頻，任何競選人如果認為被deepfake技術偽造了視頻，可以提出賠償。

另一條則規(guī)定任何加州居民發(fā)現(xiàn)自己的肖像被deepfake技術用于色情片，就可以提起訴訟。

而在國內，對于AI換臉視頻的相關法律條文的細節(jié)規(guī)定相對落后，目前并沒有專門針對這方面的專門立法，但是也可以從一些大的法律條文進行約束，如未經本人統(tǒng)一而擅自使用他人照片、視頻進行AI換臉的行為，存在侵犯他人肖像權、名譽權的可能，甚至會構成刑事犯罪。

在2017年3月，個人信息保護相關內容也被寫入我國民法總則，同年6月，《中華人民共和國網絡安全法》實施，包含保護個人信息的條目，最高法和最高檢也出臺了有關公民個人信息適用法律若干問題的解釋。

?[[315233]]?

圖源：搜狐網

雖說AI換臉技術目前仍屬于初步階段，但是帶來的影響卻也有目共睹，發(fā)展的潛力令人無法預測與捉摸。面對一項新技術的出現(xiàn)與普及，也應該利用法律等措施來規(guī)避技術的風險。誠如大衛(wèi)·漢密爾頓法官所言，法律必須致力于日益為技術和技術進步推動的社會生活。