用戶都拿ChatGPT做什么,編程占了30%,千萬(wàn)量級(jí)用戶分析給你答案
生成式AI,尤其是 ChatGPT,一直是科技媒體、主流媒體和幾乎所有領(lǐng)域?qū)I(yè)人士的談資。它將如何顛覆你的工作?人工智能會(huì)取代你嗎?好萊塢作家、房產(chǎn)中介、遛狗人(dog walkers,幫雇主遛狗)和麻醉師還有需要嗎?
Datos 擁有 2000 萬(wàn)臺(tái)設(shè)備(臺(tái)式機(jī)和移動(dòng)設(shè)備,覆蓋 200 多個(gè)國(guó)家/地區(qū)),用戶可匿名選擇加入調(diào)查組,這可以讓我們深入了解真實(shí)用戶在網(wǎng)絡(luò)上的行為,因此我們與 Datos 的人員合作,開展了一個(gè)具有挑戰(zhàn)性的項(xiàng)目,至少要揭開 ChatGPT 的一些神秘面紗。
調(diào)查 1:ChatGPT 的使用量是否在增加?
如果你讀過《ChatGPT 預(yù)測(cè)使用量將增長(zhǎng) 900%》或《ChatGPT 在六個(gè)月內(nèi)實(shí)現(xiàn)了 Facebook 需要十年才能實(shí)現(xiàn)的目標(biāo)》等令人屏息的報(bào)道,你就會(huì)認(rèn)為這個(gè)token預(yù)測(cè)生成系統(tǒng)擁有每個(gè)風(fēng)險(xiǎn)投資人夢(mèng)寐以求的東西:J曲線增長(zhǎng)。但是,更敏銳的觀察者可能已經(jīng)注意到了The Honest Broker上最近發(fā)表的一篇文章:《來自 ChatGPT 難堪的指標(biāo)揭示人工智能需求已在萎縮》,或者華爾街日?qǐng)?bào)和華盛頓郵報(bào)的類似報(bào)道。
首先,我們從宏觀看看 OpenAI流量情況:
圖片
自 5 月份以來,OpenAI 的流量下降了 29.15%。有多種說法可以解釋這種情況,但并不表明對(duì)生成式AI的興趣或使用確實(shí)在下降:
說法 1) 專業(yè)用戶/常規(guī)用戶的使用量仍處于歷史最高水平或仍在增長(zhǎng);只有新用戶/沒有特定任務(wù)的用戶的使用量在下降
說法 2)大量的使用與學(xué)校作業(yè)有關(guān),美國(guó)、加拿大和其他有暑假的國(guó)家的教育用戶是造成使用量下降的原因。
Datos 的點(diǎn)擊流調(diào)查收集了數(shù)百萬(wàn)選擇加入其訪談的設(shè)備所訪問的每個(gè) URL,從中我們不僅可以看到 OpenAI 的每月流量,還可以看到這些設(shè)備的訪問次數(shù)。這應(yīng)該有助于我們驗(yàn)證或排除說法1。
圖片
在這里我們可以看到,自五月份以來,月訪問量1-2次的設(shè)備量確實(shí)有所下降。12 月時(shí),這組訪問量也曾出現(xiàn)了大幅下降(當(dāng)時(shí)有關(guān) ChatGPT 3 功能的爆炸性新聞刺激了首次使用量的飛速增長(zhǎng))。但是,對(duì)月訪問量為 3-10 次的設(shè)備或月訪問量為 11 次以上的設(shè)備進(jìn)行分析后,說法1的論點(diǎn)就站不住腳了。自 5 月份以來,這兩種設(shè)備的訪問量都出現(xiàn)了明顯下降。事實(shí)上,訪問量超過 11 次/月的設(shè)備自 4 月份以來一直在下降!
這就留下了第二個(gè)說法:教育用戶是下降的原因。從四月份以來的數(shù)據(jù)下降情況來看,這已經(jīng)是一個(gè)很難接受的說法了,但既然在揭示答案的過程中會(huì)發(fā)現(xiàn)更多有關(guān) ChatGPT 使用情況的信息,讓我們繼續(xù)探討。
調(diào)查 #2:人們要求 ChatGPT 解決哪些任務(wù)?
是教育領(lǐng)域的應(yīng)用推動(dòng)了 ChatGPT 的應(yīng)用嗎?我們是否正在培養(yǎng)這么一代使用人工智能完成大部分作業(yè)的學(xué)生?或者,反過來說,ChatGPT 正在取代谷歌搜索的回答問題,消除對(duì)軟件程序員的需求,也許是在角色扮演游戲桌上代替過勞的“說書人(storyteller,ST)”。
為了回答這些問題,Datos 向 SparkToro 提供了來自 ChatGPT 的 7000 多條真實(shí)用戶Prompt,然后我們篩選出了最可信/最相關(guān)的 4098 條(刪除了只有幾個(gè)單詞或胡言亂語(yǔ)、表情包等無意義的Prompt)。
這個(gè)結(jié)果非常有趣,首先,我將拆分每個(gè)會(huì)話里包含的Prompt次數(shù)。
圖片
從上面我們可以看出,ChatGPT 的用戶在單次Prompt、2-4 次Prompt和 5 次以上Prompt會(huì)話之間幾乎是平均分配的(各占 1/3)。但是,這種類型的分析并不能告訴我們用戶在用這些Prompt做什么。由于 Datos 能夠提供 ChatGPT 頁(yè)面的全文,我們對(duì)這些頁(yè)面進(jìn)行了分析(使用了最好的主題分類系統(tǒng)之一:由于 Datos 能夠提供 ChatGPT 頁(yè)面的全文,因此我們對(duì)這些頁(yè)面進(jìn)行了分析(使用了當(dāng)下最好的話題分類系統(tǒng),即ChatGPT 自己)。
圖片
我首先要求 ChatGPT 提供類別分類,然后選取其中最常見的(在 4098 個(gè)獨(dú)特提示中,只有約 20 個(gè)占 95% 以上),并手動(dòng)將其劃分為頂級(jí)類別,如上圖所示。編程是最大的使用場(chǎng)景,29.14% 的Prompt系列屬于這一使用場(chǎng)景。它也是最清晰/最不含糊的。為了確認(rèn)分類器的準(zhǔn)確性,我手工檢查了每個(gè)Prompt系列中的 100 多條(這是一項(xiàng)艱巨但有趣的任務(wù)),發(fā)現(xiàn) ChatGPT 標(biāo)記為此類的每條Prompt中都有編程幫助(包括編寫特定代碼、格式化代碼、捕捉代碼中的錯(cuò)誤等)
正如其他人經(jīng)常指出的那樣,該工具擅長(zhǎng)與編程相關(guān)的任務(wù)。難怪它如此受歡迎。
接下來是教育--但不僅僅是小學(xué)或中學(xué)教育。這里還包括個(gè)人知識(shí)或興趣追求,以及工作目的的專業(yè)知識(shí)。內(nèi)容創(chuàng)作也是如此--有些顯然是個(gè)人行為(數(shù)據(jù)集中經(jīng)常出現(xiàn)的情況是,D&D 城主需要為他們的冒險(xiǎn)設(shè)計(jì)謎語(yǔ)或任務(wù)),而有些則是專業(yè)行為("給我寫一篇 500 字的關(guān)于底特律管道問題的博文"--估計(jì)是一位厭倦了自己撰寫材料的內(nèi)容營(yíng)銷人員)。
銷售和營(yíng)銷用例與內(nèi)容創(chuàng)造有重疊之處,但我選擇將它們分開,以便只看到那些只能歸類為幫助銷售和營(yíng)銷專業(yè)人員完成任務(wù)的會(huì)話(分析、關(guān)于在哪些渠道推廣產(chǎn)品的問題、廣告優(yōu)化任務(wù),甚至信息/推廣幫助都在數(shù)據(jù)集中)。
為了使這次調(diào)查更加細(xì)致,我提供了近乎完整的子類別細(xì)目(除了一些高度重疊/主觀的子類別,我把它們合并了):
圖片
我使用了上面餅狀圖中的顏色編碼,使細(xì)分更易于掃描,例如,"寫作幫助(writing assistance)"、"個(gè)人內(nèi)容創(chuàng)作(personal content creation)"、"創(chuàng)意構(gòu)思(creative ideation) "和 "專業(yè)內(nèi)容創(chuàng)作(professional content creation) "都用灰色編碼,因?yàn)樗鼈兌紝儆诟鼜V泛的 "內(nèi)容 (Content)"用例。
高等教育(Higher education)、初等教育(primary education)和課程作業(yè)(homework)都是 ChatGPT會(huì)話進(jìn)行分類的子類別,這些類別加在一起占所有使用案例的約 10%。這不足以解釋從 4 月/5 月到 7 月流量下降約 29% 的原因,因此,我認(rèn)為我們可以對(duì)說法2 蓋棺認(rèn)定。
我還發(fā)現(xiàn),分析 ChatGPT 提示對(duì)話中最常見的一些詞語(yǔ)也很有意思。對(duì)于那些好奇的人,我在下面附上了一個(gè)可視化圖表:
圖片
"Write"、"Create "和"List "可能是 ChatGPT 提示語(yǔ)中顯而易見的動(dòng)詞。但是,在 2.39% 的提示對(duì)話中發(fā)現(xiàn)了 "搜索引擎優(yōu)化"?令人震驚!"游戲 "占 4.66%,這是另一個(gè)驚喜。雖然沒有出現(xiàn)在這一細(xì)分中,但仍然很有趣(至少對(duì)我來說):
Judge(判斷) 0.61%
SaaS 0.56%
Pricing(定價(jià)) 0.54%
Curriculum(課程) 0.46%
Employment(就業(yè)) 0.44%
Employer(雇主) 0.39%
Attorney(代理律師) 0.37%
Lawyer(律師) 0.37%
Tweet(推文) 0.34%
Movie 0.32%
DnD (or D&D)(龍與地下城) 0.17%
RPG(角色扮演游戲) 0.15%
正如我所說,使用 ChatGPT 的角色扮演故事“說書人(ST)”數(shù)量之多令人驚訝。也許《Hasbro/Wizards of the Coasts》的開發(fā)者應(yīng)該考慮在 DnDBeyond的下一次升級(jí)中使用這個(gè)功能??。
本文轉(zhuǎn)載自微信公眾號(hào)「 AI工程化」,可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請(qǐng)聯(lián)系公眾號(hào)。