最新版Midjourney V5作圖已經(jīng)達(dá)到以假亂真的程度。

這不，馬斯克新女友都安排上了——GM的首席執(zhí)行官Barra。

還有，特朗普被一群警察圍捕。

甚至，穿著白色羽絨服，走路趾高氣揚(yáng)的教皇都上線了。

教皇，你是懂時(shí)尚的

上周，教宗方濟(jì)各這張穿搭照在推特上騙過(guò)了所有人，被許多網(wǎng)友瘋狂轉(zhuǎn)發(fā)，甚至有人直呼教皇太潮了。

86歲教皇頭頂白色小瓜帽、一身喇叭口的白色羽絨服，金屬制的十字架項(xiàng)鏈外露，外加一本正經(jīng)的表情。

谷歌趨勢(shì)顯示，在教皇這張照片被發(fā)布到推特后不久，搜索教皇的人數(shù)出現(xiàn)了顯著上升。

在大家都信以為真時(shí)，突然有人點(diǎn)出這是AI生成的，許多人瞬間傻眼了。

「怎么就是假的呢，還想問(wèn)一下是哪個(gè)品牌的，是真的好看。」

網(wǎng)友表示?！肝乙婚_(kāi)始認(rèn)為教皇穿的那件羽絨服是真的，沒(méi)有多想。我肯定無(wú)法在未來(lái)的科技發(fā)展中生存下來(lái)?！?/span>

其實(shí)不難看出，這個(gè)圖片是由AI偽造的。

這張圖片最先被發(fā)布在reddit上r/midjourney版塊上，后被網(wǎng)友發(fā)在推特上，瞬間在網(wǎng)上引起軒然大波。

仔細(xì)去看這張圖，就會(huì)發(fā)現(xiàn)有人工智能生成的明顯跡象，包括幾個(gè)明顯模糊的細(xì)節(jié)區(qū)域：

- 看似不完整的手正試圖抓住一個(gè)不太像咖啡杯的東西，旁邊還有污跡

- 教皇佩戴的十字架也不是直角形狀，上面還刻著一個(gè)像是用黏土雕刻而且坐著的耶穌

- 眼鏡與臉部的陰影不一致

這幾點(diǎn)都表明這是由人工智能生成的。它僅了解現(xiàn)實(shí)的表面，但不了解支配物理對(duì)象是如何相互作用的基本規(guī)則。

話是這么說(shuō)，但是無(wú)可否認(rèn)這張圖片看起來(lái)太過(guò)真實(shí)。

你可能在上周的Feed上滑過(guò)它，可能沒(méi)有多想，或許會(huì)在推特上發(fā)一條「天哪，教皇是個(gè)潮牌王」，然后繼續(xù)自己的一天。

這張圖之所以走紅，是因?yàn)樗砹酥黝}和審美的特殊結(jié)合，恰恰是因?yàn)樗c我們今天已有的消費(fèi)圖像的方式相匹配。

看到走紅的教皇后，有網(wǎng)友也動(dòng)手操作了起來(lái)，并奉上了自己的prompt：

「Pope Francis using a big white puffer jacket in the Vatican City, noon light, screen space Global illumination, lumen reflections, space Reflections, diffraction grading, chromatic aberration, ambient occlusion, realistic photograph, --v 5」

「medium-full shot of pope francis wearing puffer jacket, walking on the street, natural afternoon light, shot on Agfa Vista 200, side-angle view, 4k --ar 16:9 --stylize 1000 --v 5」

感謝網(wǎng)友成全

3月18日，特朗普在其自創(chuàng)的社交媒體平臺(tái)上表示，紐約檢方正在調(diào)查一起案件，他預(yù)計(jì)自己將于3月21日被捕，號(hào)召支持者發(fā)起抗議。

然而，等到22日，特朗普提前劇透的大新聞并沒(méi)有發(fā)生。

專注于開(kāi)源情報(bào)集團(tuán)Bellingcat的創(chuàng)始人Eliot Higgins便成全了他。

Higgins在推特上發(fā)布了一個(gè)帖子，其中有50張?zhí)乩势毡徊兜恼鎸?shí)圖像，這些照片都由Midjourney生成的。

Higgins后來(lái)表示，自己被Midjourney禁用。另外，「被捕」這一詞也被Midjourney平臺(tái)禁止使用。

Higgins說(shuō)，名人更容易成為深度偽造的目標(biāo)。因?yàn)楹苊黠@，一個(gè)人越有名，人工智能必須學(xué)習(xí)的圖像就越多，所以非常有名的人被渲染得非常好，而不太出名的人通常有點(diǎn)不穩(wěn)定。

上上周的時(shí)候，特朗普被捕1.0還沒(méi)有那么真實(shí)，可能因?yàn)樘咔辶耍惶癜^(guò)漿的新聞圖，而且仔細(xì)看手部也能看出些端倪。

而后，特朗普還在Truth Social上分享出AI生成自己的圖片。

看來(lái)特朗普并不反對(duì)人工智能創(chuàng)建的圖片。不過(guò)這張單膝跪地祈禱的照片也很假。

首先，還是手的問(wèn)題，他似乎失去了右手的無(wú)名指，拇指也奇奇怪怪，違背了基本的人體解剖學(xué)。

還有一個(gè)線索，這個(gè)單膝跪地的姿勢(shì)有點(diǎn)為難這個(gè)76歲的男人，而且，特朗普從未在公共場(chǎng)合下跪過(guò)。

還有就是他的右膝蓋，似乎直接在跪在了左腳后面。該不會(huì)他在偷偷練瑜伽呢吧，這驚人的靈活度和平衡感！

還有就是旁觀者的神態(tài)露了餡，前總統(tǒng)跪下竟然無(wú)人在意！

Deep Fake換臉以及AI生成圖像都讓人們真假難辨，國(guó)內(nèi)這樣的P圖事件也是不少。許多明星被P圖、造謠，但是如今這種技術(shù)越來(lái)越逼真，也讓受害者越來(lái)越難以為自己辯駁。

Sensity在2020年的一份報(bào)告中表明，每個(gè)月都有數(shù)百個(gè)以女性名人為主角的露骨偽造視頻被上傳到世界上最大的網(wǎng)站。

其中，Deep Fake換臉視頻的總數(shù)約為49000，其中超過(guò)95%是色情內(nèi)容。

自從幾年前人工智能驅(qū)動(dòng)的換臉工具進(jìn)入主流以來(lái)，包括艾瑪·沃特森、娜塔莉·波特曼、比莉·艾利什和泰勒·斯威夫特在內(nèi)的女演員都成為了深度換臉的目標(biāo)。

想必以后人們?cè)诳吹矫襟w的新聞時(shí)，都需要先去進(jìn)行多方查證才能知道事情的真相。

或許以后看圖先看手。

又或許需要當(dāng)事人出來(lái)打假。

總之，我們需要更多的手段來(lái)鑒別真?zhèn)巍?/span>

不過(guò)有網(wǎng)友認(rèn)為，這還只是簡(jiǎn)單模式。等技術(shù)真的進(jìn)化到無(wú)法分辨時(shí)，那才是真的大麻煩，到時(shí)候估計(jì)只有親眼見(jiàn)到才敢確認(rèn)新聞的真實(shí)度吧。

加州大學(xué)伯克利分校的Farid說(shuō)，Midjourney 逼真的圖像能力產(chǎn)生了政治風(fēng)險(xiǎn)，因?yàn)樗墚a(chǎn)生看起來(lái)合理的圖像，然后引發(fā)社會(huì)的憤怒。

「讓人們相信這些東西很容易。開(kāi)局一張圖，剩下全靠編。之前還可以靠看手辨別真?zhèn)?，現(xiàn)在越來(lái)越逼真，越來(lái)越難以辨認(rèn)。」

他認(rèn)為，人工智能公司應(yīng)該好好思考，他們通過(guò)改進(jìn)技術(shù)可能造成的傷害。他建議這些公司加入護(hù)欄，像DALLE-2一樣設(shè)置違禁詞，加入圖像水印，防止匿名賬戶創(chuàng)建照片。

但是，F(xiàn)raid認(rèn)為，人工智能公司不太可能放慢圖像制作技術(shù)研究的進(jìn)程。

生成性人工智能領(lǐng)域是一場(chǎng)軍備競(jìng)賽，每個(gè)人都想弄清楚如何賺錢，他們的速度很快，而考慮安全問(wèn)題會(huì)讓你慢下來(lái)。