最近幾天，OpenAI 革新的 GPT-4o 圖像功能給大家?guī)?lái)了不少樂(lè)趣，各路社交媒體都被「吉卜力」風(fēng)格的圖像、視頻刷了屏。機(jī)器之心還嘗試了制作了《甄嬛傳》的名場(chǎng)面（視頻如下，制作方法參見(jiàn)《GPT-4o 整活！3 個(gè)小時(shí)、6 個(gè)鏡頭重現(xiàn)吉卜力版《甄嬛傳》名場(chǎng)面》）。

其實(shí)，除了效果的大幅提升，這次 GPT-4o 更新還有一個(gè)值得關(guān)注的變化 —— 內(nèi)容限制似乎比以前少了很多，很多公眾人物 —— 如馬斯克、特朗普 —— 現(xiàn)在都可以生成。而之前，模型會(huì)直接拒絕這類請(qǐng)求。

圖源：https://x.com/morganlinton/status/1905081523768095049/photo/1

GPT-4o 生成的雷軍相關(guān)圖像。

為什么會(huì)發(fā)生這種變化？昨晚，OpenAI 的模型行為負(fù)責(zé)人 Joanne Jang 發(fā)文做出了解釋。

她表示：

OpenAI 正從敏感領(lǐng)域的全面拒絕轉(zhuǎn)向更精確的方法，專注于防止現(xiàn)實(shí)世界的傷害。目標(biāo)是保持謙遜：認(rèn)識(shí)到我們不知道的有多少，并讓自己能夠隨著學(xué)習(xí)而適應(yīng)。 

圖像有一種獨(dú)特而強(qiáng)大的震撼力；它們能帶來(lái)無(wú)與倫比的愉悅和沖擊。與文本不同，圖像超越語(yǔ)言障礙，喚起各種情感反應(yīng)。它們能立即闡明復(fù)雜的想法。

正因?yàn)閳D像具有如此大的影響力，我們?cè)谥贫ㄕ吆托袨榉矫娓械奖绕渌l(fā)布更重的責(zé)任。

當(dāng)涉及到發(fā)布新功能時(shí)，我們的觀點(diǎn)已經(jīng)在多次發(fā)布中演變：

1. 相信用戶的創(chuàng)造力勝過(guò)我們自己的假設(shè)。 AI 實(shí)驗(yàn)室員工不應(yīng)該成為決定人們應(yīng)該或不應(yīng)該創(chuàng)造什么的仲裁者。發(fā)布后我們總是感到謙卑，發(fā)現(xiàn)了我們從未想象過(guò)的使用案例 —— 甚至有些事后看來(lái)如此明顯，但由于我們視角有限而沒(méi)有想到。

2. 清晰地看到風(fēng)險(xiǎn)，但不要忽視對(duì)用戶的日常價(jià)值。 專注于潛在危害很容易，廣泛的限制總是感覺(jué)最安全（也最容易?。?。我們經(jīng)常發(fā)現(xiàn)自己在質(zhì)疑，「當(dāng)同樣的梗圖可能被用來(lái)冒犯或傷害人們時(shí)，我們真的需要更好的梗圖功能嗎？」。但我認(rèn)為這種框架本身就有缺陷。它暗示著細(xì)微的、日常的好處必須在假設(shè)的最壞情況下證明自己，而這種情況低估了這些快樂(lè)、幽默和聯(lián)系的小時(shí)刻如何真正改善人們的生活。

3. 重視未知、無(wú)法想象的可能性。 也許是由于我們對(duì)損失厭惡的認(rèn)知偏見(jiàn)，我們很少考慮不作為的負(fù)面影響；有些人稱之為「無(wú)形的墓地」，盡管這有點(diǎn)太陰暗和極端。新功能解鎖的二階或間接影響：所有那些因?yàn)槲覀兒ε伦顗那闆r而從未實(shí)現(xiàn)的積極互動(dòng)、創(chuàng)新和想法現(xiàn)在可以實(shí)現(xiàn)了。

應(yīng)對(duì)這些挑戰(zhàn)很困難，但我們的目標(biāo)是最大限度地發(fā)揮創(chuàng)造自由，同時(shí)防止真正的傷害。 

公眾人物：我們知道處理公眾人物可能很棘手 —— 尤其是當(dāng)新聞、諷刺和被描繪人物的利益之間的界限變得模糊時(shí)。我們希望我們的政策公平平等地適用于每個(gè)人，無(wú)論他們的「地位」如何。但我們決定不做「誰(shuí)足夠重要」的裁判，而是創(chuàng)建一個(gè)選擇退出列表，讓任何可能被我們的模型描繪的人自己決定。

「冒犯性」內(nèi)容：當(dāng)涉及到「冒犯性」內(nèi)容時(shí)，我們推動(dòng)自己反思任何不適是源于我們的個(gè)人意見(jiàn)或偏好，還是源于對(duì)現(xiàn)實(shí)世界造成傷害的可能性。在沒(méi)有明確指導(dǎo)方針的情況下，模型以前會(huì)拒絕諸如「讓這個(gè)人的眼睛看起來(lái)更亞洲化」或「讓這個(gè)人更胖」的請(qǐng)求，無(wú)意中暗示這些特征本身就是冒犯性的。

……

總之，以上種種考慮，加上 OpenAI 在精確評(píng)估技術(shù)方面的進(jìn)步，促使他們采取了更寬松的政策。

Joanne Jang 還引用了同事 Jason Kwon 的一句話：「船在港口最安全；最安全的模型是拒絕一切的模型。但這不是船或模型的用途。 」 

這也解釋了為什么我們現(xiàn)在可以看到那么多吉卜力風(fēng)格的圖像，因?yàn)?GPT-4o 現(xiàn)在被允許模仿皮克斯、吉卜力等創(chuàng)意工作室的風(fēng)格。

不過(guò)，OpenAI 現(xiàn)在仍限制模型模仿在世藝術(shù)家的個(gè)人風(fēng)格，因?yàn)橐坏┓砰_(kāi)，關(guān)于 AI 訓(xùn)練數(shù)據(jù)集中版權(quán)作品合理使用的爭(zhēng)論又會(huì)變得棘手。

目前已經(jīng)可以看到的是，GPT-4o 所帶來(lái)的效果提升正在給廣告、影視、游戲等行業(yè)帶來(lái)新變化。

把 GPT-4o 和其他工具一起使用，往往會(huì)給人帶來(lái)新的驚喜。

不過(guò)，OpenAI 并沒(méi)有公布 GPT-4o 的圖像處理技術(shù)細(xì)節(jié)，只提到采用了類似語(yǔ)言模型的自回歸方法。所以，關(guān)于其背后技術(shù)，目前有很多猜測(cè)。

如果你有更合理的猜想，歡迎在評(píng)論區(qū)留言。