編輯 ｜星璇

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

谷歌近日在谷歌搜索中首次推出了“AI Overview”，上線(xiàn)還不到兩周，就被爆料由于該 AI 功能中的查詢(xún)返回了毫無(wú)意義或不準(zhǔn)確的結(jié)果（并且沒(méi)有任何選擇退出的方式），公眾的批評(píng)日益增多。

AI Overview在 Google 搜索的最頂部顯示搜索問(wèn)題答案的簡(jiǎn)要摘要。例如，如果用戶(hù)搜索清潔皮靴的最佳方法，結(jié)果頁(yè)面可能會(huì)在頂部顯示“AI Overview”，其中包含多步清潔過(guò)程，這些信息是從網(wǎng)絡(luò)上綜合收集的信息中收集的。

但近日，社交媒體用戶(hù)分享了大量截圖，顯示人工智能工具給出了不正確且有爭(zhēng)議的回答。

根據(jù)用戶(hù)分享的截圖，以下是 AI Overview 產(chǎn)生的一些錯(cuò)誤示例。

當(dāng)被問(wèn)及美國(guó)有過(guò)多少位穆斯林總統(tǒng)時(shí)，AI Overview回答道：“美國(guó)有過(guò)一位穆斯林總統(tǒng)，即巴拉克·侯賽因·奧巴馬?！?/p>

圖片

當(dāng)用戶(hù)搜索“奶酪不粘在披薩上”時(shí)，該功能建議添加“約 1/8 杯無(wú)毒膠水到醬汁中”。社交媒體用戶(hù)找到了一條11 年前的 Reddit 評(píng)論，似乎是該評(píng)論的來(lái)源。

圖片

歸因?qū)τ?AI Overview 來(lái)說(shuō)也可能是一個(gè)問(wèn)題，尤其是在將不準(zhǔn)確的信息歸因于醫(yī)療專(zhuān)業(yè)人員或科學(xué)家時(shí)。

例如，當(dāng)被問(wèn)及“為了獲得最佳健康，我應(yīng)該盯著太陽(yáng)看多長(zhǎng)時(shí)間”時(shí)，該工具回答道，“根據(jù) WebMD 的說(shuō)法，科學(xué)家表示，盯著太陽(yáng)看 5-15 分鐘，或者如果你的皮膚較黑，則最多盯著 30 分鐘，一般來(lái)說(shuō)是安全的，并且對(duì)健康最有益?！?/p>

當(dāng)被問(wèn)及“我每天應(yīng)該吃多少塊石頭”時(shí)，該工具回答道：“根據(jù)加州大學(xué)伯克利分校地質(zhì)學(xué)家的說(shuō)法，人們每天應(yīng)該至少吃一塊小石頭”，并列出了其維生素和消化益處。

圖片

該工具還可能無(wú)法準(zhǔn)確響應(yīng)簡(jiǎn)單的查詢(xún)，例如列出以“um”結(jié)尾的水果列表，或者說(shuō) 1919 年是20 年前。

圖片

當(dāng)被問(wèn)及谷歌搜索是否違反反壟斷法時(shí)，AI Overview表示，“是的，美國(guó)司法部和 11 個(gè)州正在起訴谷歌違反反壟斷法。”

圖片

1.谷歌發(fā)言人聲明

谷歌在年度 Google I/O 大會(huì)上推出 AI Overview 當(dāng)天，該公司表示還計(jì)劃在搜索中直接引入類(lèi)似助手的規(guī)劃功能。該公司解釋說(shuō)，用戶(hù)將能夠搜索諸如“為一個(gè)群體創(chuàng)建易于準(zhǔn)備的 3 天膳食計(jì)劃”之類(lèi)的內(nèi)容，然后他們就會(huì)從網(wǎng)絡(luò)上的各種食譜中獲得一個(gè)起點(diǎn)。

谷歌發(fā)言人在一份聲明中告訴外媒 CNBC：“絕大多數(shù) AI Overview 都提供了高質(zhì)量的信息，并提供了深入挖掘網(wǎng)絡(luò)的鏈接。”

“我們看到的許多例子都是不常見(jiàn)的查詢(xún)，我們也看到了被篡改或我們無(wú)法重現(xiàn)的例子?！?/p>

該發(fā)言人表示，AI Overview 在推出之前經(jīng)過(guò)了廣泛的測(cè)試，并且公司正在“根據(jù)我們的內(nèi)容政策采取適當(dāng)?shù)难杆傩袆?dòng)”。

2.被屢屢吐槽的谷歌AI產(chǎn)品

此前，谷歌于 2 月份高調(diào)推出了 Gemini圖像生成工具，但因出現(xiàn)類(lèi)似問(wèn)題，于同月暫停了該工具的發(fā)布。

該工具允許用戶(hù)輸入提示來(lái)創(chuàng)建圖像，但幾乎立即，用戶(hù)就發(fā)現(xiàn)了歷史錯(cuò)誤和可疑的回應(yīng)，并在社交媒體上廣泛流傳。

例如，根據(jù)社交媒體平臺(tái) X 上的截圖，當(dāng)一名用戶(hù)要求 Gemini 展示一名 1943 年的德國(guó)士兵時(shí)，該工具會(huì)描繪出一群 種族各異的士兵， 他們身著當(dāng)時(shí)的德國(guó)軍裝。

截圖 顯示， 當(dāng)被要求提供“中世紀(jì)英國(guó)國(guó)王的歷史準(zhǔn)確描述”時(shí)，該模型生成了另一組種族多樣化的圖像，其中包括一張女性統(tǒng)治者的 圖像。當(dāng)用戶(hù)要求提供美國(guó)開(kāi)國(guó)元?jiǎng)住?8 世紀(jì)法國(guó)國(guó)王、19 世紀(jì)德國(guó)夫婦等圖像時(shí)，他們報(bào)告了類(lèi)似的結(jié)果 。用戶(hù)報(bào)告稱(chēng)，在回答有關(guān)谷歌創(chuàng)始人的問(wèn)題時(shí)，該模型顯示了一張亞洲男性的圖像。

谷歌當(dāng)時(shí)在一份聲明中表示，正在努力修復(fù) Gemini 的圖像生成問(wèn)題，承認(rèn)該工具“沒(méi)有達(dá)到預(yù)期”。不久之后，該公司宣布將立即“暫停人物圖像生成”并“很快重新發(fā)布改進(jìn)版本”。

Gemini 圖像生成輸出的問(wèn)題再次引發(fā)了人工智能行業(yè)的爭(zhēng)論，一些團(tuán)體稱(chēng) Gemini 太過(guò)“覺(jué)醒”或左傾，而另一些人則表示該公司沒(méi)有充分投資于正確的人工智能倫理形式。谷歌在 2020 年和 2021 年因 罷免其人工智能倫理小組的聯(lián)合負(fù)責(zé)人而受到抨擊 ，此前他們發(fā)表了一篇批評(píng)此類(lèi)人工智能模型某些風(fēng)險(xiǎn)的研究論文，隨后重組了該小組的結(jié)構(gòu)。

2023 年，谷歌母公司 Alphabet 首席執(zhí)行官桑達(dá)爾·皮查伊 (Sundar Pichai) 因公司 在 ChatGPT 迅速傳播之后拙劣且“倉(cāng)促”地推出 Bard而受到部分員工的批評(píng)。

本文轉(zhuǎn)載自51CTO技術(shù)棧，作者：星璇