有消息顯示，Google已于近日悄悄禁止了其在 Colaboratory（Colab）服務(wù)上的深度偽造（Deepfake）項(xiàng)目，這代表以Deepfake為目的大規(guī)模利用平臺(tái)資源的時(shí)代或已畫上句號(hào)。

眾所周知，Colab是一個(gè)在線計(jì)算資源平臺(tái)，允許研究人員直接通過瀏覽器運(yùn)行Python代碼，同時(shí)使用包括GPU在內(nèi)的免費(fèi)計(jì)算資源來支持自己的項(xiàng)目。正由于GPU的多核特性，Colab是類似Deepfake模型機(jī)器學(xué)習(xí)項(xiàng)目或執(zhí)行數(shù)據(jù)分析理想選擇。

經(jīng)過一定訓(xùn)練，人們將Deepfake技術(shù)用于在視頻片段中交換面孔，并添加真實(shí)的面部表情，幾乎能夠以假亂真。然而，這項(xiàng)技術(shù)時(shí)常被用于傳播假新聞，制作復(fù)仇色情片，抑或用于娛樂目的。在實(shí)際運(yùn)用中缺乏倫理限制一直是這項(xiàng)技術(shù)存在爭(zhēng)議的根源。

Deepfake遭禁

根據(jù)互聯(lián)網(wǎng)資料館網(wǎng)站archive.org的歷史數(shù)據(jù)，這項(xiàng)禁令出臺(tái)于本月的早些時(shí)候，Google Research部門悄悄將Deepfake列入了禁止項(xiàng)目的名單中。

正如DFL軟件開發(fā)者“chervonij”在Discord社區(qū)平臺(tái)上所指出的那樣，那些現(xiàn)在仍嘗試在 Colab平臺(tái)上訓(xùn)練deepfake的用戶會(huì)收到這樣一條錯(cuò)誤報(bào)告：

“您可能正在執(zhí)行不被允許的代碼，這可能會(huì)限制你未來使用Colab的權(quán)限。關(guān)于更多禁止行為的信息，請(qǐng)留意我們的常見問題解答(FAQ)文檔。”

分析人士預(yù)計(jì)，這一項(xiàng)新限制措施將在Deepfake世界中產(chǎn)生非常深遠(yuǎn)的影響，因?yàn)槟壳坝性S多用戶都在運(yùn)用Colab的預(yù)訓(xùn)練模型來啟動(dòng)他們的高分辨率項(xiàng)目。即使對(duì)于那些沒有編碼背景的人來說，Colab也可以讓項(xiàng)目過程變得很平滑，這也就是為何那么多教程都建議用戶運(yùn)用Google的“免費(fèi)資源”平臺(tái)來啟動(dòng)自己的Deepfake項(xiàng)目。

資源的濫用

目前尚不清楚Google執(zhí)行這項(xiàng)禁令是出于道德考慮還是由于項(xiàng)目所使用的免費(fèi)計(jì)算資源被濫用。

Colab成立的初衷是對(duì)那些為了實(shí)現(xiàn)科學(xué)目標(biāo)需要成千上萬資源的研究人員提供幫助，這在當(dāng)下這個(gè)GPU短缺的年代是尤為重要的。

然而卻事與愿違，有報(bào)道顯示，一些用戶正在利用平臺(tái)的免費(fèi)資源大規(guī)模創(chuàng)建Deepfake模型，這在很長(zhǎng)一段時(shí)間內(nèi)都占用了Colab的大量可用資源。

以下是不被允許項(xiàng)目的完整列表：

• 與Colab交互式計(jì)算無關(guān)的文件托管、媒體服務(wù)或其他Web服務(wù)產(chǎn)品
• 下載種子或進(jìn)行點(diǎn)對(duì)點(diǎn)文件共享
• 使用遠(yuǎn)程桌面或 SSH服務(wù)
• 連接到遠(yuǎn)程代理
• 加密貨幣挖礦
• 運(yùn)行拒絕服務(wù)攻擊
• 密碼破解
• 使用多個(gè)帳戶解決訪問或資源使用限制
• 創(chuàng)建Deepfakes

不難看出，所有這些被禁止的項(xiàng)目都遠(yuǎn)沒有資格進(jìn)行常規(guī)科學(xué)研究。盡管有些項(xiàng)目屬于合理使用的范疇，但Google發(fā)現(xiàn)被濫用的情況要遠(yuǎn)遠(yuǎn)多于合理使用的情況。

參考來源：https://www.bleepingcomputer.com/news/technology/google-quietly-bans-deepfake-training-projects-on-colab/