如果您曾參與過(guò) AI 討論，無(wú)論是在研究、行業(yè)還是瀏覽網(wǎng)頁(yè)，您可能已經(jīng)遇到過(guò)諸如AI 代理、AGI、ASI 和推理等流行術(shù)語(yǔ)被廣泛使用。但這些術(shù)語(yǔ)真的有意義嗎？還是它們只是助長(zhǎng)了炒作周期和誤導(dǎo)性對(duì)話？

簡(jiǎn)短的回答是：截至目前，其中一些術(shù)語(yǔ)具有明確的技術(shù)含義，而其他一些則更具推測(cè)性或誤導(dǎo)性。它們?cè)诠惭哉撝械氖褂梅绞胶苤匾驗(yàn)楫?dāng)炒作超過(guò)現(xiàn)實(shí)時(shí)，它可能會(huì)對(duì)現(xiàn)實(shí)世界產(chǎn)生影響。

1.人工智能代理：功能性和有形性

讓我們從一個(gè)真正有意義的術(shù)語(yǔ)開(kāi)始。

AI 代理是一種能夠感知環(huán)境、做出決策并采取行動(dòng)以實(shí)現(xiàn)特定目標(biāo)的系統(tǒng)。這一概念是 AI 研究的基礎(chǔ)，適用于從簡(jiǎn)單的基于規(guī)則的機(jī)器人到復(fù)雜的強(qiáng)化學(xué)習(xí)系統(tǒng)等所有領(lǐng)域。

例如，谷歌的 DeepMind AlphaZero是一個(gè)經(jīng)過(guò)訓(xùn)練的 AI 代理，可以掌握國(guó)際象棋、將棋和圍棋。它會(huì)接收棋盤(pán)狀態(tài)，評(píng)估潛在動(dòng)作，并根據(jù)學(xué)習(xí)到的策略選擇最佳行動(dòng)。這是該術(shù)語(yǔ)的明確、實(shí)用的用法——無(wú)需大肆宣傳。

2.AGI：不斷滑動(dòng)的移動(dòng)目標(biāo)

通用人工智能 (AGI)是指能夠執(zhí)行人類所能執(zhí)行的任何智力任務(wù)的人工智能。與當(dāng)今的狹義人工智能（擅長(zhǎng)翻譯、圖像識(shí)別等特定任務(wù)）不同，通用人工智能將靈活、適應(yīng)性強(qiáng)，并且能夠在多個(gè)領(lǐng)域進(jìn)行自主學(xué)習(xí)。

問(wèn)題是什么？AGI 并不存在。

并且取決于你問(wèn)的是誰(shuí)，它可能是：

• 我們正在慢慢接近這個(gè)目標(biāo)（根據(jù) OpenAI 和 DeepMind 的說(shuō)法）。
• 這是一個(gè)遙遠(yuǎn)的夢(mèng)想，更多的是關(guān)于進(jìn)步而不是事件（根據(jù)Meta 首席人工智能科學(xué)家Yann LeCun 的說(shuō)法）。
• 這是一個(gè)可能永遠(yuǎn)無(wú)法實(shí)現(xiàn)的技術(shù)幻象（人工智能理論家加里·馬庫(kù)斯）。

Meta 首席人工智能科學(xué)家 Yann LeCun 對(duì) AGI 的到來(lái)表示懷疑，稱 AGI 的出現(xiàn)不會(huì)是突然事件，而是一個(gè)漸進(jìn)的發(fā)展過(guò)程。他強(qiáng)調(diào)，目前的人工智能系統(tǒng)，包括大型語(yǔ)言模型，還遠(yuǎn)未達(dá)到人類水平的智能。

與此同時(shí)，《人工智能：一種現(xiàn)代方法》一書(shū)的合著者斯圖爾特·拉塞爾警示稱，對(duì)通用人工智能的熱潮可能會(huì)導(dǎo)致不可靠的人工智能系統(tǒng)過(guò)早部署——這是一種現(xiàn)實(shí)世界的風(fēng)險(xiǎn)，我們已經(jīng)在有偏見(jiàn)的人工智能模型和產(chǎn)生幻覺(jué)的聊天機(jī)器人中看到了這種風(fēng)險(xiǎn)。

結(jié)論是，AGI 更像是一個(gè)不斷變化的目標(biāo)，而不是一個(gè)具體的里程碑。

3.ASI：超級(jí)智能的 AI 幻想

如果說(shuō) AGI 只是推測(cè)，那么超級(jí)人工智能 (ASI)則完全是科幻小說(shuō)（截至目前）。

ASI 指的是在所有領(lǐng)域（科學(xué)發(fā)現(xiàn)、創(chuàng)造力、社交智能、戰(zhàn)略規(guī)劃等）不僅匹敵人類智能，甚至超越人類智能的人工智能系統(tǒng)。從《終結(jié)者》到伊隆·馬斯克對(duì)人工智能末日的存在主義警告，人工智能霸主的場(chǎng)景都應(yīng)運(yùn)而生。

但問(wèn)題是：沒(méi)有任何技術(shù)證據(jù)表明我們正在走向 ASI 的道路。

如果你問(wèn)像Murray Shanahan（DeepMind）這樣的人工智能研究員，他會(huì)說(shuō)我們對(duì)人類智能的了解還遠(yuǎn)遠(yuǎn)不夠，無(wú)法復(fù)制它，更不用說(shuō)創(chuàng)造超越它的東西了。

圍繞 ASI 的炒作不僅具有誤導(dǎo)性，而且會(huì)分散注意力。它將人們的注意力從真正的、直接的 AI 風(fēng)險(xiǎn)上轉(zhuǎn)移開(kāi)，例如：

• 人工智能偏見(jiàn)導(dǎo)致歧視性結(jié)果。
• 自動(dòng)化取代了工人，而沒(méi)有足夠的政策回應(yīng)。
• 錯(cuò)誤信息通過(guò)人工智能生成的內(nèi)容傳播。

關(guān)注假設(shè)的超級(jí)智能可以減輕公司和政策制定者解決這些緊迫問(wèn)題的壓力。

4.人工智能“推理”：營(yíng)銷成分大于現(xiàn)實(shí)

目前，人工智能話語(yǔ)中最大的誤稱之一就是聲稱 GPT-4 或 Gemini 等模型可以“推理”。

當(dāng)今的人工智能從根本上來(lái)說(shuō)屬于統(tǒng)計(jì)模式匹配，而非真正的推理。當(dāng)人工智能系統(tǒng)“推理”時(shí)，它實(shí)際上是：

• 根據(jù)訓(xùn)練數(shù)據(jù)做出高概率的猜測(cè)。
• 完成文本中的模式而不是得出合乎邏輯的結(jié)論。
• 不理解為什么答案正確或不正確。

例如，在 2023 年的 AI 基準(zhǔn)測(cè)試中，大型語(yǔ)言模型在解決人類兒童可以解決的基本邏輯難題時(shí)遇到了困難。盡管它們生成的文本聽(tīng)起來(lái)像是推理驅(qū)動(dòng)的，但它們卻無(wú)法實(shí)現(xiàn)分布外泛化——這是真正智能的一個(gè)基本方面。

加里·馬庫(kù)斯（Gary Marcus）很好地總結(jié)了這一點(diǎn)：

“這些模型不具備推理能力，它們只是重復(fù)而已?！?/p>

所以下次有人告訴你人工智能會(huì)“推理”時(shí)，你要問(wèn)：推理是什么樣的？如何衡量？

人工智能炒作對(duì)現(xiàn)實(shí)世界的影響

為什么這一切如此重要？因?yàn)檎Z(yǔ)言塑造感知，感知推動(dòng)政策、投資和公眾信任。

1. 錯(cuò)誤信息和公眾困惑

當(dāng)科技公司在營(yíng)銷材料中大肆宣揚(yáng) AGI 和 ASI 時(shí)，公眾對(duì)人工智能實(shí)際能力的理解就會(huì)被扭曲。人們開(kāi)始認(rèn)為我們即將擁有自我意識(shí)的機(jī)器，而實(shí)際上，當(dāng)今的人工智能甚至很難在不產(chǎn)生幻覺(jué)的情況下可靠地總結(jié)一份文件。

2. 承諾過(guò)多，交付不足

炒作會(huì)導(dǎo)致不切實(shí)際的期望——以及失望。投資者向無(wú)法立即實(shí)現(xiàn)目標(biāo)的“AGI 初創(chuàng)公司”投入了數(shù)十億美元。政策制定者追逐科幻場(chǎng)景，而不是監(jiān)管實(shí)際危害。

以IBM Watson為例，它曾被吹捧為將改變醫(yī)療保健行業(yè)的革命性人工智能。由于未能達(dá)到預(yù)期，該項(xiàng)目失敗了，留下了人們的質(zhì)疑。

3. 政策和道德被邊緣化

有關(guān)人工智能監(jiān)管的辯論政府經(jīng)常陷入對(duì) AGI 和 ASI 的長(zhǎng)期擔(dān)憂，而數(shù)據(jù)隱私、偏見(jiàn)和算法責(zé)任等真正的道德問(wèn)題仍未解決。

Stuart Russell警告稱，人工智能安全討論必須關(guān)注實(shí)際風(fēng)險(xiǎn)，而不是假設(shè)風(fēng)險(xiǎn)：

“超級(jí)智能 AI 是一個(gè)有趣的思想實(shí)驗(yàn)，但真正的挑戰(zhàn)是確保當(dāng)今的 AI 系統(tǒng)與人類價(jià)值觀相一致?！?/p>

行動(dòng)呼吁：促進(jìn)關(guān)鍵參與

為了了解復(fù)雜的人工智能術(shù)語(yǔ)及其含義，采取批判性視角至關(guān)重要：

• 明確定義：尋求與人工智能相關(guān)的術(shù)語(yǔ)的精確解釋，以了解其具體含義和局限性。
• 評(píng)估能力：評(píng)估人工智能系統(tǒng)實(shí)際上能做什么以及所聲稱能做什么，區(qū)分當(dāng)前的功能、未來(lái)的能力和推測(cè)的潛力。
• 問(wèn)題動(dòng)機(jī)：考慮誰(shuí)會(huì)從某些人工智能能力框架中受益，以及這些描述是否服務(wù)于營(yíng)銷、資金或其他利益。

通過(guò)批判性地研究人工智能術(shù)語(yǔ)并質(zhì)疑所呈現(xiàn)的敘述，我們可以促進(jìn)更明智的公共討論，指導(dǎo)負(fù)責(zé)任的政策制定，并確保對(duì)人工智能的投資與真正的進(jìn)步和社會(huì)福祉保持一致。