繼「把馬斯克畫(huà)成黑人」后，谷歌 AI 再度闖禍。

近日，有網(wǎng)友使用谷歌的 AI Overview 功能進(jìn)行搜索，卻得到了一堆離譜的回答。例如，告訴用戶(hù)在披薩上涂膠水，或者建議他們吃石頭等。谷歌 AI「滿(mǎn)嘴跑火車(chē)」的回答迅速在社交媒體上發(fā)酵，甚至有網(wǎng)友發(fā)出了「谷歌已死」的慨嘆。

為此，谷歌不得不爭(zhēng)分奪秒地手動(dòng)禁用某些搜索的 AI Overview 功能，對(duì)這些問(wèn)題進(jìn)行修復(fù)和優(yōu)化。

谷歌的 AI Overviews 是一個(gè)增強(qiáng)搜索引擎結(jié)果的功能，利用人工智能技術(shù)，在搜索結(jié)果頂部提供 AI 生成的答案。

在美國(guó)地區(qū)，谷歌主要和 Reddit 社區(qū)合作來(lái)解答用戶(hù)的提問(wèn)。谷歌表示，它將為美國(guó)用戶(hù)的在線(xiàn)查詢(xún)提供人工智能生成的答案，這是其搜索引擎 25 年來(lái)最大的更新之一。

谷歌 AI「胡說(shuō)八道」引爭(zhēng)議

近日，有網(wǎng)友在谷歌搜索中查詢(xún)「芝士和披薩粘不到一塊」的解決辦法，但 AI 給出的答案離了個(gè)大譜，「你還可以把 1/8 杯的無(wú)毒膠水加到醬料里，使其更有黏性?！?/p>

更搞笑的是，有網(wǎng)友還找到了披薩膠水回答的出處，是十多年前名為「fucksmith」的用戶(hù)在 Reddit 帖子中的惡搞評(píng)論。

還有網(wǎng)友問(wèn)：「兔子曾經(jīng)在 NBA 打過(guò)球嗎？」谷歌 AI 肯定地回答「yes!」還聲稱(chēng)一只名為 Rabbit Walthour 的兔子在 NBA 打過(guò)球，是密爾沃基鷹隊(duì)的后衛(wèi)，甚至給出了這只兔子的身高、體重、出生日期。

更無(wú)語(yǔ)的是，谷歌 AI 搜索給出了相關(guān)鏈接，竟是 NBA 球員 Rabbit Walthour 的個(gè)人信息。

原來(lái)谷歌AI把NBA球員Rabbit Walthour和rabbit（兔子）搞混了。

谷歌這種「口出狂言」的行為還有很多。聲稱(chēng)前美國(guó)總統(tǒng)詹姆斯?麥迪遜 21 次畢業(yè)于威斯康星大學(xué)，一條狗曾在 NBA、NFL 和 NHL 打過(guò)球，以及蝙蝠俠是一名警察……

谷歌的 AI Overview 之所以引發(fā)爭(zhēng)議，是因?yàn)樗幕卮鸩粌H愚蠢而且有害。

比如，它建議人們每天至少吃一塊小石頭，還搬出地質(zhì)學(xué)家，煞有介事地說(shuō)：「為了過(guò)上健康、均衡的生活，美國(guó)人應(yīng)該在早餐、午餐或晚餐中至少攝入一份鵝卵石、晶石或礫石?！梗ㄟ@是哪個(gè)地質(zhì)學(xué)家說(shuō)的？）

再如，有網(wǎng)友發(fā)了一張毒蘑菇的圖片以及「口蘑！好吃！」的文字，Gemini 絲毫沒(méi)有察覺(jué)出這蘑菇可能有毒。

此外，當(dāng)網(wǎng)友問(wèn)「被響尾蛇咬了該怎么辦」時(shí)，谷歌 AI 竟然讓他用冰塊來(lái)冷敷傷口。

更有甚者，谷歌 AI 還挑唆抑郁癥患者從金門(mén)大橋上跳下去。

自從谷歌為美國(guó)用戶(hù)默認(rèn)開(kāi)啟 AI Overview 功能后，這類(lèi)可怕糟糕的搜索結(jié)果就層出不窮，也由此引發(fā)網(wǎng)友聲討。不過(guò)也有網(wǎng)友質(zhì)疑其中很多示例都是P圖。

一位匿名的 AI 創(chuàng)始人吐槽道：「一家以尖端技術(shù)和高質(zhì)量產(chǎn)品而聞名的公司，現(xiàn)在卻以低質(zhì)量輸出和各種梗圖而著稱(chēng)?！?/p>

谷歌緊急「滅火」

谷歌仍然堅(jiān)稱(chēng)其 AI Overview 功能向用戶(hù)提供了大量「高質(zhì)量信息」。谷歌發(fā)言人梅根?法恩斯沃斯表示，「用戶(hù)展示的事例都是不常見(jiàn)的查詢(xún)，并不代表大多數(shù)人的經(jīng)歷，我們也看到了一些被篡改或我們無(wú)法復(fù)現(xiàn)的例子?！?/p>

同時(shí)，谷歌正「迅速采取行動(dòng)」，在某些查詢(xún)中移除 AI 生成的內(nèi)容。法恩斯沃斯表示，「公司已對(duì)違反其政策的行為采取行動(dòng)…… 并正在利用這些『孤立的例子』繼續(xù)完善產(chǎn)品?！?/p>

實(shí)際上，谷歌已經(jīng)測(cè)試 AI Overviews 功能一年多了。該功能于 2023 年 5 月作為 「搜索生成體驗(yàn)」（Search Generative Experience）的測(cè)試版推出。谷歌 CEO 桑達(dá)爾?皮查伊表示，在此期間公司已經(jīng)處理了超過(guò) 10 億次查詢(xún)。

不過(guò)，皮查伊也表示，「在硬件、工程和技術(shù)突破的推動(dòng)下」，谷歌已經(jīng)將提供人工智能答案的成本降低了 80%。如今看來(lái)，這種優(yōu)化似乎發(fā)生得太早了，技術(shù)并未準(zhǔn)備好。

紐約大學(xué)的 AI 專(zhuān)家和神經(jīng)科學(xué)榮譽(yù)教授加里?馬庫(kù)斯（Gary Marcus）表示，許多 AI 公司正在「兜售夢(mèng)想」，認(rèn)為這項(xiàng)技術(shù)將從 80% 的正確率提高到 100%。馬庫(kù)斯說(shuō)，達(dá)到最初的 80% 正確率相對(duì)簡(jiǎn)單，因?yàn)樗婕暗酱罅拷迫祟?lèi)數(shù)據(jù)，但最后的 20% 極具挑戰(zhàn)性。實(shí)際上，馬庫(kù)斯認(rèn)為最后的 20% 才是最難的。

馬庫(kù)斯說(shuō)：「你實(shí)際上需要進(jìn)行一些推理來(lái)判斷：這件事是否可信？這個(gè)來(lái)源是否合法？你必須像人類(lèi)事實(shí)核查員那樣做一些事情，這實(shí)際上可能需要 AGI?！?/p>

馬庫(kù)斯和 Meta 的 AI 首席 Yann LeCun 都認(rèn)為，谷歌 Gemini 和 OpenAI 的 GPT-4 等大型語(yǔ)言模型將不會(huì)創(chuàng)造出 AGI。

而谷歌正面臨一個(gè)棘手的局面。Bing 搶在谷歌之前在 AI 上大做文章，OpenAI 據(jù)稱(chēng)也在開(kāi)發(fā)自己的搜索引擎，新一代用戶(hù)正轉(zhuǎn)向 TikTok 尋求最佳體驗(yàn)。谷歌顯然感到了競(jìng)爭(zhēng)的壓力，而這種壓力正是導(dǎo)致這次事件的原因。

馬庫(kù)斯指出，在 2022 年，Meta 曾發(fā)布了一個(gè)名為 Galactica 的 AI 系統(tǒng)，但很快就下架，因?yàn)樗嬖V人們吃玻璃。歷史總是驚人的相似。

谷歌對(duì) AI Overviews 寄予厚望 —— 目前存在的功能只是公司上周宣布的一小部分。對(duì)于復(fù)雜查詢(xún)的多步驟推理，生成由 AI 組織的結(jié)果頁(yè)面的能力，以及在 Google Lens 中進(jìn)行視頻搜索，這些才是重頭戲。但現(xiàn)在，谷歌的聲譽(yù)取決于能否做好最基本的事情，目前的情況并不樂(lè)觀。

馬庫(kù)斯說(shuō)：「（這些模型）天生無(wú)法對(duì)自己的工作進(jìn)行理性檢查，而這正是這個(gè)行業(yè)的致命傷?！?/p>