谷歌將重新開放 Gemini 生成人物圖像功能,此前因“種族描述不當(dāng)”引爭議
8 月 29 日消息,北京時(shí)間 29(今)日,據(jù)彭博社報(bào)道,谷歌宣布將恢復(fù) AI 模型 Gemini 生成人物圖像的功能,部分消費(fèi)者將可以重新使用。
谷歌表示,將開始向訂閱 Gemini Advanced 套餐的英語用戶推出生成人物圖像功能。企業(yè)也將能夠使用該工具,該功能將在未來幾天內(nèi)上線。
谷歌產(chǎn)品管理高級總監(jiān)戴夫?西特倫(Dave Citron)表示,該公司在通過 Imagen 3 生成人物描寫方面取得了“重大進(jìn)展”。“我們一直在努力對產(chǎn)品進(jìn)行技術(shù)改進(jìn),并改進(jìn)了評估集、紅隊(duì)練習(xí)和明確的產(chǎn)品原則。當(dāng)然,Gemini 創(chuàng)建的每張圖像都不可能完美無缺,但我們會(huì)繼續(xù)聽取早期訪問 Gemini Advanced 用戶的反饋意見,不斷改進(jìn)?!?/p>
IT之家注:紅隊(duì)練習(xí)是指在產(chǎn)品進(jìn)入公眾視野之前,通過模擬使用發(fā)現(xiàn)其潛在危害。
戴夫?西特倫表示,用戶將無法創(chuàng)建“逼真”的圖像、可識(shí)別的個(gè)人、未成年人的形象或“過于血腥、暴力或性的場景”。
前情提要:
今年 2 月,谷歌的圖像生成工具受到批評,因?yàn)樵摴ぞ咴谏扇宋飯D像時(shí),出現(xiàn)了“不符合歷史事實(shí)”的場景,包括不正確的種族描述。例如以“美國開國元?jiǎng)兹A盛頓”為主題的圖片中,出現(xiàn)了婦女和有色人種。還有網(wǎng)友發(fā)現(xiàn),“讓 Gemini 承認(rèn)白人的存在難得令人尷尬”。
2 月 22 日,谷歌宣布將暫停 Gemini 的人物圖像生成,努力解決與 Gemini 圖像生成功能相關(guān)的最新問題,并“很快”重新發(fā)布改進(jìn)版本。
谷歌 DeepMind 首席執(zhí)行官德米斯?哈薩比斯在 MWC 2024 的小組討論會(huì)中表示,“我們已下線 Gemini 的人像生成功能,同時(shí)正在修復(fù)問題,希望未來幾周內(nèi)重新上線。”