編輯 ｜星璇
出品 | 51CTO技術(shù)棧（微信號：blog51cto）
谷歌近日在谷歌搜索中首次推出了“AI Overview”，上線還不到兩周，就被爆料由于該 AI 功能中的查詢返回了毫無意義或不準確的結(jié)果（并且沒有任何選擇退出的方式），公眾的批評日益增多。
AI Overview在 Google 搜索的最頂部顯示搜索問題答案的簡要摘要。例如，如果用戶搜索清潔皮靴的最佳方法，結(jié)果頁面可能會在頂部顯示“AI Overview”，其中包含多步清潔過程，這些信息是從網(wǎng)絡(luò)上綜合收集的信息中收集的。
但近日，社交媒體用戶分享了大量截圖，顯示人工智能工具給出了不正確且有爭議的回答。
根據(jù)用戶分享的截圖，以下是 AI Overview 產(chǎn)生的一些錯誤示例。
當被問及美國有過多少位穆斯林總統(tǒng)時，AI Overview回答道：“美國有過一位穆斯林總統(tǒng)，即巴拉克·侯賽因·奧巴馬?！?/p>
圖片
當用戶搜索“奶酪不粘在披薩上”時，該功能建議添加“約 1/8 杯無毒膠水到醬汁中”。社交媒體用戶找到了一條11 年前的 Reddit 評論，似乎是該評論的來源。
圖片
歸因?qū)τ?AI Overview 來說也可能是一個問題，尤其是在將不準確的信息歸因于醫(yī)療專業(yè)人員或科學家時。
例如，當被問及“為了獲得最佳健康，我應該盯著太陽看多長時間”時，該工具回答道，“根據(jù) WebMD 的說法，科學家表示，盯著太陽看 5-15 分鐘，或者如果你的皮膚較黑，則最多盯著 30 分鐘，一般來說是安全的，并且對健康最有益。”
當被問及“我每天應該吃多少塊石頭”時，該工具回答道：“根據(jù)加州大學伯克利分校地質(zhì)學家的說法，人們每天應該至少吃一塊小石頭”，并列出了其維生素和消化益處。
圖片
該工具還可能無法準確響應簡單的查詢，例如列出以“um”結(jié)尾的水果列表，或者說 1919 年是20 年前。
圖片
當被問及谷歌搜索是否違反反壟斷法時，AI Overview表示，“是的，美國司法部和 11 個州正在起訴谷歌違反反壟斷法?！?/p>
圖片
1.谷歌發(fā)言人聲明
谷歌在年度 Google I/O 大會上推出 AI Overview 當天，該公司表示還計劃在搜索中直接引入類似助手的規(guī)劃功能。該公司解釋說，用戶將能夠搜索諸如“為一個群體創(chuàng)建易于準備的 3 天膳食計劃”之類的內(nèi)容，然后他們就會從網(wǎng)絡(luò)上的各種食譜中獲得一個起點。
谷歌發(fā)言人在一份聲明中告訴外媒 CNBC：“絕大多數(shù) AI Overview 都提供了高質(zhì)量的信息，并提供了深入挖掘網(wǎng)絡(luò)的鏈接?！?/p>
“我們看到的許多例子都是不常見的查詢，我們也看到了被篡改或我們無法重現(xiàn)的例子。”
該發(fā)言人表示，AI Overview 在推出之前經(jīng)過了廣泛的測試，并且公司正在“根據(jù)我們的內(nèi)容政策采取適當?shù)难杆傩袆印薄?/p>
2.被屢屢吐槽的谷歌AI產(chǎn)品
此前，谷歌于 2 月份高調(diào)推出了 Gemini圖像生成工具，但因出現(xiàn)類似問題，于同月暫停了該工具的發(fā)布。
該工具允許用戶輸入提示來創(chuàng)建圖像，但幾乎立即，用戶就發(fā)現(xiàn)了歷史錯誤和可疑的回應，并在社交媒體上廣泛流傳。
例如，根據(jù)社交媒體平臺 X 上的截圖，當一名用戶要求 Gemini 展示一名 1943 年的德國士兵時，該工具會描繪出一群 種族各異的士兵， 他們身著當時的德國軍裝。
截圖 顯示， 當被要求提供“中世紀英國國王的歷史準確描述”時，該模型生成了另一組種族多樣化的圖像，其中包括一張女性統(tǒng)治者的 圖像。當用戶要求提供美國開國元勛、18 世紀法國國王、19 世紀德國夫婦等圖像時，他們報告了類似的結(jié)果 。用戶報告稱，在回答有關(guān)谷歌創(chuàng)始人的問題時，該模型顯示了一張亞洲男性的圖像。
谷歌當時在一份聲明中表示，正在努力修復 Gemini 的圖像生成問題，承認該工具“沒有達到預期”。不久之后，該公司宣布將立即“暫停人物圖像生成”并“很快重新發(fā)布改進版本”。
Gemini 圖像生成輸出的問題再次引發(fā)了人工智能行業(yè)的爭論，一些團體稱 Gemini 太過“覺醒”或左傾，而另一些人則表示該公司沒有充分投資于正確的人工智能倫理形式。谷歌在 2020 年和 2021 年因 罷免其人工智能倫理小組的聯(lián)合負責人而受到抨擊 ，此前他們發(fā)表了一篇批評此類人工智能模型某些風險的研究論文，隨后重組了該小組的結(jié)構(gòu)。
2023 年，谷歌母公司 Alphabet 首席執(zhí)行官桑達爾·皮查伊 (Sundar Pichai) 因公司 在 ChatGPT 迅速傳播之后拙劣且“倉促”地推出 Bard而受到部分員工的批評。
