“原諒寶”后又現(xiàn)“一鍵脫衣”，技術(shù)作惡該怎么解決？
DeepNude、DeepFake 和原諒寶的故事告訴我們，技術(shù)可以輕而易舉地使人擁有權(quán)力，他們可以通過大數(shù)據(jù)操縱任何一個(gè)普通人的生活，讓你感到恐懼，讓你的隱私變成商品公之于眾。
DeepNude（深度裸體）App 的出現(xiàn)，令美國女性感到害怕。四天的時(shí)間，這種害怕擴(kuò)散演變成了全球性恐慌。
一名叫阿爾貝托的程序員開發(fā)出了這款應(yīng)用。只要你給 DeepNude 一張女性圖片，借助神經(jīng)網(wǎng)絡(luò)技術(shù)，它就可以自動(dòng)“脫掉”女性身上的衣服，顯示出那位女性的“裸體”來。
有人問，DeepNude 能對(duì)男性造成直接傷害嗎？從目前的情況來看，不會(huì)。它只能處理女性圖片，即便上傳男性圖片，最后輸出的圖片中，關(guān)鍵隱私部位也會(huì)顯示為女性。
“低級(jí)需求下產(chǎn)生的應(yīng)用，是有原罪的。”
6 月 23 日，DeepNude 在一個(gè)網(wǎng)站上首度被展示，上面羅列了人們?cè)撊绾蜗螺d并使用這款軟件的步驟信息。
DeepNude 有免費(fèi)版和 50 美元付費(fèi)版，使用免費(fèi)版獲得的圖片會(huì)有較大水印，付費(fèi)版不會(huì)出現(xiàn)較大水印，但在圖片左上角會(huì)加上“FAKE”的小 logo。
使用者無需任何專業(yè)知識(shí)，就可輕而易舉地使用，技術(shù)削低了準(zhǔn)入門檻。有人好奇了問：DeepNude 是怎么誕生的？
兩年前，開發(fā)者阿爾貝托發(fā)現(xiàn)了人工智能的潛力，開始研究這門技術(shù)的基礎(chǔ)知識(shí)。當(dāng)他知道人工智能技術(shù)能將白天照片轉(zhuǎn)換成夜間照片時(shí)，他意識(shí)到，自己可以將一張穿著衣服的女性照片，轉(zhuǎn)換成另一種模樣的照片。
阿爾貝托在接受《Motherboard》的采訪時(shí)說，DeepNude 基于加州大學(xué)伯克利分校研究者開發(fā)的開源算法 pix2pix 創(chuàng)建，并使用 1 萬張女性裸圖加以訓(xùn)練。這一算法與人工智能換臉技術(shù) DeepFake 算法相似，也和無人車技術(shù)所使用的算法相似。
圖片來自 GitHub 社區(qū)，賬號(hào)“yuanxiaosc”
他把這種發(fā)現(xiàn)滋生出來的結(jié)果理解為樂趣和熱情。憑借這兩個(gè)驅(qū)動(dòng)力，他對(duì)穿著衣服的女性照片做了一次“卸裝”嘗試，并從中獲得了“有趣的結(jié)果”。
但這并不是讓他創(chuàng)建 DeepNude 的核心原因，到底是什么讓它創(chuàng)建了一個(gè)飽受爭(zhēng)議的應(yīng)用呢？
《Motherboard》的報(bào)道為我們解答了這一疑惑。
此前，阿爾貝托創(chuàng)業(yè)失敗了，在經(jīng)濟(jì)上遭遇困境，“我問自己，是否能憑借這個(gè)算法技術(shù)賺到錢”？
答案是肯定的。
短短五天內(nèi)，就有 50 萬人在使用 DeepNude。巨大的流量一度使服務(wù)器不穩(wěn)定，導(dǎo)致付款出現(xiàn)問題。他一直在社交媒體推特上安撫用戶，“We had problems with payments. Please try later or use crypto.”（我們的付款出現(xiàn)問題，請(qǐng)稍后再試或使用加密。）
DeepNudeApp 的 Twitter 賬號(hào)界面截圖
6 月 26 日當(dāng)天，用戶量太大，他被迫關(guān)閉服務(wù)器。還說，在解決問題之前，不接受任何付款。
DeepNude 推出四天后，阿爾貝托還沒意識(shí)到有人在用它做一些充滿惡意的事情。6 月 27 日，連發(fā)了 5 條推特闡述團(tuán)隊(duì)在努力維修 DeepNude 的下載通道和支付通道，“耐心點(diǎn)，我們將在未來發(fā)布越來越穩(wěn)定的版本。”
即便如此，他們還是離線了，人們下載不了 DeepNude，原因不是封禁，而是“因?yàn)槲覀儧]有預(yù)料到這么多訪問，我們的服務(wù)器需要加強(qiáng)。”
DeepNude 太火爆了。它能讓人輕而易舉地看到一些明星的隱私，哪怕是合成的。時(shí)間前進(jìn)到 6 月 27 日晚些時(shí)間，阿爾貝托才被迫做出妥協(xié)，決定關(guān)停 DeepNude。
“我們以為我們每個(gè)月都能以一種可控的方式銷售很少的 DeepNude”，但“我們從未想過它會(huì)變成病毒，發(fā)展到了不可控的狀態(tài)”，“人們?yōu)E用它的可能性太高了，我們不想這樣賺錢”，“從現(xiàn)在起，DeepNude 將不再發(fā)布其他版本，也不允許任何人使用它”。
DeepNude 網(wǎng)站的一部分屏幕截圖
阿爾貝托的口頭阻止令毫無效果，至今仍有 DeepNude 在網(wǎng)絡(luò)上傳播。
就在這一消息發(fā)布前幾小時(shí)，他還在認(rèn)為“世界還沒有為 DeepNude 的到來做好準(zhǔn)備”。
“‘世界尚未準(zhǔn)備好’？我想你的意思是‘我們編寫了一個(gè)深刻攻擊性、令人毛骨悚然的應(yīng)用程序，它基本上是一個(gè)濫用和侵犯人們隱私的應(yīng)用程序，我們很抱歉’。”一位 Twitter 網(wǎng)友看起來很生氣，她不認(rèn)同阿爾貝托的說辭。
“低級(jí)需求下產(chǎn)生的應(yīng)用，是有原罪的。”國內(nèi)一名叫“潘一先生”的網(wǎng)友譴責(zé)稱，DeepNude 滿足的本就不是正當(dāng)合法的需求。和真實(shí)圖像相比，如果說生成的照片與女性很像，那么侵犯了女性的隱私權(quán)；如果說不像，則可能侵犯女性的名譽(yù)權(quán)。
世界永遠(yuǎn)不應(yīng)該為像 DeepNude 這樣的應(yīng)用做好準(zhǔn)備，而且也不應(yīng)該這樣做。
但就在 DeepNude 被抵制之前，DeepFake（深度偽造，多用于換臉）技術(shù)也充滿了爭(zhēng)議。
楊冪和蔡徐坤都被“換臉”
去年 12 月，一段涉及漫威電影《神奇女俠》主演蓋爾·加朵的“成人短片”，在一個(gè)類似于貼吧一樣的美國網(wǎng)絡(luò)社區(qū) Reddit 流傳，被諸多網(wǎng)友圍觀。制作這段視頻的人不是職業(yè)拍攝者，而是一名程序員，網(wǎng)名叫“deepfakes”。
他在業(yè)余時(shí)間學(xué)習(xí)了 DeepFake 技術(shù)，用一些互聯(lián)網(wǎng)免費(fèi)開放的工具和素材，將蓋爾·加朵的臉“移植”到了一名色情演員身上。蓋爾·加朵與那部“成人短片”產(chǎn)生聯(lián)系，是非自愿行為。
但那位程序員顯然是沉迷其中了。泰勒·斯威夫特、艾瑪·沃特森、斯嘉麗·約翰遜和麥茜·威廉姆斯等在美國家喻戶曉的女明星都被換臉。
給女明星換臉，國內(nèi)也出現(xiàn)過類似的網(wǎng)絡(luò)事件。那件事發(fā)生在今年初。
把楊冪推進(jìn)換臉風(fēng)波的人，在微博開通了一個(gè)叫“換臉哥”的賬號(hào)。2 月底，他把一段涉及楊冪的視頻上傳到網(wǎng)絡(luò)，引發(fā)熱議。視頻內(nèi)容的主角原本是《射雕英雄傳》中黃蓉的扮演者朱茵，但他用 DeepFakes 技術(shù)把朱茵的臉換成了楊冪的臉。
一方面，很多人擔(dān)心自己會(huì)被同樣的技術(shù)裹入洪流，被人玩弄，開始譴責(zé)他；一方面，有人找到他，希望他幫忙做換臉技術(shù)，其中不少涉及違法犯罪。沒過多久，他與楊冪官方工作室溝通，并下架了相關(guān)視頻。
最為人熟知的換臉惡搞潮發(fā)生在今年初的“雞你太美事件”中，蔡徐坤展示自己興趣愛好的一段視頻，被網(wǎng)友換臉，他們還陸續(xù)推出了新的惡搞版本。蔡徐坤方面為避免被惡搞，還發(fā)出了律師函警告。
蔡徐坤的換臉主角是游戲知名主播五五開
DeepFake 的發(fā)展時(shí)間不長，在 2017 年底才興起的，被主流深度討論，也是那時(shí)。幾個(gè)月后，Reddit 禁止上傳非自愿色情內(nèi)容，其他網(wǎng)站也禁止使用深度偽造非自愿色情內(nèi)容。
它的危害之一在于，技術(shù)權(quán)力毫無約束，像瘋狗一樣逮誰咬誰，很容易讓人被技術(shù)另一端的人支配。
演員斯嘉麗·約翰遜是世界上收入頂端的女演員之一，以參演漫威系列電影而聞名，江湖人稱“黑寡婦”。她卻深受 DeepFake 之害。
《華盛頓郵報(bào)》稱，她的臉已經(jīng)被匿名在線“創(chuàng)作者”嫁接到數(shù)十個(gè)圖形性愛場(chǎng)景中，他們正在使用免費(fèi)的人工智能軟件來制作令人信服的逼真視頻。一個(gè)假視頻，被描述為真正的“泄露”鏡頭，已被觀看超過 150 萬次。
在現(xiàn)代名望的黑暗現(xiàn)實(shí)中，她擁有比大多數(shù)人更多的經(jīng)驗(yàn)。2011 年，她被一名黑客泄露隱私，這名黑客后來被判處 10 年有期徒刑。
在線制作虛假的色情照片已經(jīng)存在了幾十年。她在接受《華盛頓郵報(bào)》采訪時(shí)說，DeepFakes 的崛起，已被用來騷擾和羞辱女性，這對(duì)于尋求在互聯(lián)網(wǎng)上保護(hù)自己的女性來說，是一個(gè)新的令人沮喪的挑戰(zhàn)。她對(duì)這一現(xiàn)象表示擔(dān)憂，將互聯(lián)網(wǎng)描述為“吃掉自己的巨大黑暗蟲洞”。
在英國，DeepFakes 的生產(chǎn)者可能會(huì)因騷擾而受到起訴，但有人要求對(duì)某種特定犯罪行為進(jìn)行深刻打擊?！缎l(wèi)報(bào)》稱，一位學(xué)術(shù)專家認(rèn)為，根據(jù)真實(shí)人物的照片制作虛假的色情圖片應(yīng)該成為修正法案中的刑事犯罪，以解決騷擾問題。
在美國，人們一直在追究身份盜竊，網(wǎng)絡(luò)跟蹤和復(fù)仇色情等各種指控，并討論了更全面的法規(guī)。目前，美國弗吉尼亞州率先對(duì) DeepFakes 這些新應(yīng)用采取了行動(dòng)，擴(kuò)大了其“復(fù)仇色情法”的范疇。修正后的法律于當(dāng)?shù)貢r(shí)間 7 月 1 日生效。
2014 年，弗吉尼亞州對(duì)“復(fù)仇色情”的定義是，“以完全或部分裸體狀態(tài)惡意傳播另一個(gè)人的錄像或靜止圖像，意圖強(qiáng)迫，騷擾或恐嚇”。現(xiàn)在，這一法令包含了“DeepFake”，制作或操縱的視頻和使用機(jī)器學(xué)習(xí)制作的圖像。
現(xiàn)在的規(guī)定稱，未經(jīng)許可分享某人視頻的裸照照片是違法的——無論是真實(shí)的還是偽造的。除了 DeepFake，用 Photoshop 或其他工具制作的虛假照片、視頻也包含在內(nèi)。
在現(xiàn)有狀況來看，這項(xiàng)法案保護(hù)的大多是女性。有數(shù)據(jù)顯示，大約有 1000 萬美國人受到復(fù)仇色情的威脅或成為其復(fù)仇的受害者。根據(jù)美國一家研究所 2016 年的一項(xiàng)研究，女性遭受男性威脅的可能性是男性的兩倍。
為什么受傷的總是女性？
用“深度假”技術(shù)取悅?cè)藗?/strong>
2018 年 8 月 13 日，一個(gè)叫“原諒寶”的項(xiàng)目嶄露頭角，微博網(wǎng)友“將記憶深埋”發(fā)文稱，為了幫助碼農(nóng)朋友們做一個(gè)初步過濾，他聯(lián)合了幾位朋友把 1024、91 等網(wǎng)站上的視頻和圖片打上標(biāo)簽，進(jìn)行人臉匹配。
在碼農(nóng)界一直流傳著一個(gè)說法，很多碼農(nóng)每天的時(shí)間都分配給了工作，加上天生情商不夠高，內(nèi)心又想著找一個(gè)女朋友，在找女朋友方面，很不擅長。這可能導(dǎo)致一個(gè)情況，有些碼農(nóng)找到的女朋友可能是“特殊工作者”，或者是“炮友”，或者是被偷拍女性，或者是其他情況。
發(fā)起者稱，“原諒寶”起到的一個(gè)作用就在于，鑒別對(duì)方有沒有出現(xiàn)在 1024、PronHub 等特殊網(wǎng)站上。
使用方法不難，你可以上傳一張照片到“原諒寶”，系統(tǒng)會(huì)自動(dòng)匹配 1024、PronHub 等特殊網(wǎng)站上的數(shù)據(jù)，如果結(jié)果顯示“Fail”，意味著那個(gè)人的樣貌出現(xiàn)在了特殊網(wǎng)站上；如果顯示“Pass”，則是“幸運(yùn)過關(guān)”。
消息一出，引來無數(shù)質(zhì)疑和謾罵。“原諒寶”則為自己辯解，研發(fā)的目的是“為保護(hù)老實(shí)人而生”“接盤俠的福音”，可以解決戀愛中的信任關(guān)系。
5 月 27 日，“將記憶深埋”說，“半年時(shí)間，100 多 TB 數(shù)據(jù)， 利用 1024、91、sex8、PronHub、xvideos 等網(wǎng)站采集的數(shù)據(jù)對(duì)比 Facebook、instagram、TikTok、抖音、微博等社交媒體。我們?cè)谌蚍秶鷥?nèi)成功識(shí)別了 10 多萬從事不可描述行業(yè)的小姐姐。”
“知道這些素材夠判斷多少年嗎？”有人看到這條信息后發(fā)出質(zhì)問。
“你知道什么叫違法嗎？首先，我現(xiàn)在沒有傳播任何數(shù)據(jù)，其次，我沒有公布查詢接口泄露任何人的隱私。”“將記憶深埋”在微博中為自己辯解，“我居住在德國，色情產(chǎn)業(yè)是合法的”。
“將記憶深埋”的囂張氣焰并沒有變?nèi)醯内厔?shì)。直到輿論緊逼，無數(shù)人涌入他的個(gè)人微博主頁，對(duì)其進(jìn)行譴責(zé)。“將記憶深埋”不得不做出致歉，“我會(huì)刪除這個(gè)項(xiàng)目”，“100 多 TB 數(shù)據(jù)在半小時(shí)內(nèi)徹底清空”。
此事沒有就此終止，關(guān)于“原諒寶”以 App 方式轉(zhuǎn)世的消息卻傳了出來，“將記憶深埋”將此事與自己撇清，“本人沒有發(fā)布過任何手機(jī)端 App”。但這些設(shè)計(jì)背后的動(dòng)機(jī)天然針對(duì)女性，甚至于控制和羞辱女性。
我們習(xí)慣了太多事情了。對(duì)社交媒體習(xí)以為常的我們，早就接受了一個(gè)來自于技術(shù)世界的觀念：技術(shù)本身是沒有錯(cuò)的，即便是技術(shù)被披上了狼皮，也是人的錯(cuò)，它可以作惡，也可以行善。但在今年，科技向善的價(jià)值觀導(dǎo)向逐漸成為主流，即便有人在抨擊這一觀念非常模糊，也阻止不了它在這一階段的流行程度。
但 DeepNude、DeepFake 和原諒寶的故事告訴我們，技術(shù)可以前所未有地、輕而易舉地使人擁有權(quán)力，他們可以通過大數(shù)據(jù)操縱任何一個(gè)普通人的生活，讓你感到恐懼，讓你的一切網(wǎng)絡(luò)隱私變成商品公之于眾。它已經(jīng)不再是一個(gè)單純的技術(shù)問題，而是一個(gè)社會(huì)信任問題，從個(gè)人信任到新聞信任，我們可能陷入一個(gè)再也無法確定媒體內(nèi)容是否符合事實(shí)的時(shí)代。
“深度假”技術(shù)變得越來越流行，不論是在抖音、快手上的動(dòng)畫特效，還是美顏相機(jī)里面的貓咪耳朵，都變花樣兒地討好人們。如果說技術(shù)本身是中立，那么道德的存在，就是為了引導(dǎo)技術(shù)別輕易成為“吃掉自己的巨大黑暗蟲洞”。
當(dāng)《Motherboard》的記者向美國加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授 Hany Farid 展示 DeepNude 時(shí)，得知其發(fā)展到這種程度，他感到震驚。
他說，學(xué)術(shù)界和研究人員不得不更加帶有批判性的視角，考慮我們?cè)撊绾瓮七M(jìn)技術(shù)，以便技術(shù)不被武器化，或以有害的方式被使用。
很多 AI 研究者也針對(duì) DeepNude 事件發(fā)聲，大多是譴責(zé)。
3 月份，吳恩達(dá)和他的女兒/圖片來自吳恩達(dá)的 Twitter 賬號(hào)
“我很高興 DeepNude 死了。作為一個(gè)人和一個(gè)父親，我認(rèn)為這是人工智能最令人作嘔的應(yīng)用之一。”前百度首席科學(xué)家、斯坦福大學(xué) CS 兼職教師吳恩達(dá)，在社交媒體發(fā)文表達(dá)了他的憤怒。
他還對(duì) AI 社區(qū)說：“你擁的確有超能力，你建立的東西很重要。請(qǐng)將你的力量用在可以推動(dòng)世界前進(jìn)的有價(jià)值的項(xiàng)目上。”
