在過去的18個(gè)月里，我觀察到關(guān)于大型語言模型（LLMs）和GenAI的討論正在迅速增長(zhǎng)。對(duì)于未來的興奮和夸大的猜測(cè)也隨之膨脹——甚至可能形成了泡沫，這給當(dāng)前AI工具的實(shí)際應(yīng)用投下了陰影，這種炒作凸顯了目前AI的深刻局限性，同時(shí)也削弱了這些工具在實(shí)際應(yīng)用中的潛力。

我們?nèi)匀惶幱贏I的“幼兒期”，像ChatGPT這樣的流行AI工具雖然有趣且在某種程度上有用，但它們尚不能被完全依賴來完成整體工作，它們的答案不可避免地帶有創(chuàng)造它們的人類的錯(cuò)誤和偏見，以及它們訓(xùn)練所用來源的影響，這些來源的可靠性也常常令人懷疑，這些“幻覺”更像是我們自身心理的投射，而非真正的、正在萌芽的智能。

此外，還存在一些真實(shí)而具體的問題，例如AI迅速增加的能源消耗，這有可能加速一場(chǎng)生存性的氣候危機(jī)。最近的一份報(bào)告發(fā)現(xiàn)，例如，Google的AI系統(tǒng)在應(yīng)對(duì)搜索請(qǐng)求時(shí)必須創(chuàng)建全新的信息，這比直接從一個(gè)來源提取信息大約需要多30倍的能量，與ChatGPT進(jìn)行一次互動(dòng)所消耗的電力相當(dāng)于一個(gè)60瓦燈泡亮三分鐘所需的電量。

那么，誰在“幻想”呢？

 我的一位同事毫不諷刺地聲稱，由于AI的出現(xiàn)，高中教育將在五年內(nèi)變得過時(shí)，并且到2029年我們將生活在一個(gè)人人平等的天堂，擺脫繁瑣的勞動(dòng)，這一預(yù)測(cè)受到了Ray Kurzweil關(guān)于“AI奇點(diǎn)”預(yù)測(cè)的啟發(fā)，描繪了一個(gè)充滿烏托邦式承諾的未來。

 對(duì)此，我愿意下注。我認(rèn)為，要從ChatGPT-4的“幻覺”和意外行為發(fā)展到一個(gè)我不再需要自己裝洗碗機(jī)的世界，可能需要的不僅僅是五年，甚至不止25年。 

GenAI存在三個(gè)無法解決的棘手問題。如果有人告訴你這些問題總有一天會(huì)被解決，你應(yīng)該明白，他們要么對(duì)自己在說什么一無所知，要么就是在兜售一些并不存在的東西。他們生活在一個(gè)純粹由希望和信念構(gòu)筑的世界里，這個(gè)世界里的人曾讓我們相信加密貨幣和比特幣會(huì)取代所有銀行，汽車將在五年內(nèi)實(shí)現(xiàn)完全自動(dòng)駕駛，以及元宇宙將取代大多數(shù)人的現(xiàn)實(shí)生活。他們現(xiàn)在試圖吸引你的注意力和參與，以便在你上鉤后，他們可以提高價(jià)格，然后在市場(chǎng)崩潰之前從你那里賺錢。

 三個(gè)無法解決的現(xiàn)實(shí)問題

 幻覺

 地球上既沒有足夠的計(jì)算能力，也沒有足夠的訓(xùn)練數(shù)據(jù)來解決幻覺問題。GenAI可能會(huì)生成事實(shí)不正確或無意義的輸出，這使得它在需要高準(zhǔn)確性的關(guān)鍵任務(wù)中不可靠。根據(jù)Google CEO Sundar Pichai的說法，幻覺是GenAI的“固有特性”，這意味著模型開發(fā)者只能期望減少幻覺可能帶來的危害，而無法完全消除它們。

 非確定性輸出

GenAI本質(zhì)上是非確定性的，它是一個(gè)基于數(shù)十億標(biāo)記的概率引擎，通過實(shí)時(shí)計(jì)算和百分比形成和重組輸出，這種非確定性特質(zhì)意味著AI的回應(yīng)可能會(huì)有很大差異，這對(duì)軟件開發(fā)、測(cè)試、科學(xué)分析或任何需要一致性的領(lǐng)域來說都是一個(gè)挑戰(zhàn)。例如，利用AI確定測(cè)試移動(dòng)應(yīng)用特定功能的最佳方法可能會(huì)產(chǎn)生一個(gè)不錯(cuò)的結(jié)果，然而，即使你再次輸入相同的提示，也不能保證會(huì)得到相同的結(jié)果——這就造成了問題性的變異性。

標(biāo)記補(bǔ)貼

標(biāo)記是AI難題中一個(gè)尚未被充分理解的部分。簡(jiǎn)單來說，每次你提示一個(gè)LLM，你的查詢會(huì)被分解為“標(biāo)記”，這些標(biāo)記是你得到的回應(yīng)的種子——回應(yīng)也是由標(biāo)記組成的——你會(huì)為每個(gè)請(qǐng)求和回應(yīng)中的每個(gè)標(biāo)記支付不到一美分的費(fèi)用。 

投資于GenAI生態(tài)系統(tǒng)的數(shù)千億美元中的很大一部分直接用于降低這些成本，以推動(dòng)廣泛的采用。例如，ChatGPT每天約產(chǎn)生40萬美元的收入，但系統(tǒng)的運(yùn)營(yíng)成本需要額外的70萬美元投資補(bǔ)貼才能維持運(yùn)轉(zhuǎn)。在經(jīng)濟(jì)學(xué)中，這被稱為“虧損領(lǐng)袖定價(jià)”——還記得2008年Uber有多便宜嗎？你有沒有注意到，當(dāng)它變得普及時(shí)，現(xiàn)在的價(jià)格已經(jīng)和出租車一樣貴了？將同樣的原理應(yīng)用于Google、OpenAI、Microsoft和Elon Musk之間的AI競(jìng)賽，你我可能會(huì)開始擔(dān)心，當(dāng)他們決定開始盈利時(shí)，局面會(huì)變得如何。

實(shí)際的工作效果

 我最近寫了一個(gè)腳本，用來從我們的CI/CD管道中提取數(shù)據(jù)并上傳到數(shù)據(jù)湖中。在ChatGPT的幫助下，原本需要我那些生疏的Python技能花費(fèi)八到十小時(shí)的工作，最終只用了不到兩小時(shí)——效率提高了80%！只要我不要求每次的答案都完全相同，并且仔細(xì)檢查它的輸出，ChatGPT就是我日常工作中值得信賴的伙伴。

 GenAI在幫助我進(jìn)行頭腦風(fēng)暴、為我提供教程或快速學(xué)習(xí)一個(gè)非常具體的主題，以及起草一封困難的電子郵件時(shí)非常擅長(zhǎng)。未來這些方面可能會(huì)有些微的改進(jìn)，并在未來幾年作為我能力的延伸發(fā)揮作用。對(duì)我來說，這已經(jīng)足夠好，并且也為投入大量精力開發(fā)這些模型提供了合理的理由。

結(jié)論

 雖然GenAI可以幫助完成一些有限的任務(wù)，但它并不值得我們重新評(píng)估人類本質(zhì)，進(jìn)而導(dǎo)致數(shù)萬億美元的投入。那些在AI方面運(yùn)用得最好的公司，往往是那些自然處理灰色地帶的公司——比如Grammarly或JetBrains。這些產(chǎn)品非常有用，因?yàn)樗鼈冞\(yùn)作的環(huán)境中，人們自然會(huì)交叉檢查答案，或者那里本來就有多條通向解決方案的路徑。

 我認(rèn)為，我們?cè)诖笮驼Z言模型上的投資——無論是時(shí)間、金錢、人力、能源，還是無盡的期望——已經(jīng)遠(yuǎn)遠(yuǎn)超過了我們可能獲得的回報(bào)。這是因?yàn)椤案嘟?jīng)濟(jì)”和“增長(zhǎng)至上”的心態(tài)，使我們無法將GenAI定位為一個(gè)相當(dāng)出色的工具，用來提高我們30%的生產(chǎn)力。在一個(gè)公正的世界里，這已經(jīng)足夠好了，足以圍繞它構(gòu)建一個(gè)市場(chǎng)。