使用GPT-4,學(xué)渣比學(xué)霸更有優(yōu)勢(shì)
如果允許學(xué)生用AI“作弊”,他們的成績(jī)分布會(huì)發(fā)生怎樣的變化?
針對(duì)這個(gè)問(wèn)題,真有幾位大學(xué)教授正兒八經(jīng)研究了一番,并寫(xiě)下了長(zhǎng)達(dá)62頁(yè)的研究論文。
結(jié)果發(fā)現(xiàn),使用GPT-4后學(xué)生的“能力曲線被壓縮了”,差生和優(yōu)等生的差距縮小。
沃頓商學(xué)院教授分享了這項(xiàng)研究后,引起不少網(wǎng)友討論。網(wǎng)友對(duì)這樣的結(jié)果也感覺(jué)很意外:
和我的預(yù)期完全不符啊,還以為所有人分?jǐn)?shù)都會(huì)提高。
還有網(wǎng)友稱這是“真正的游戲規(guī)則改變者”:
AI正在改變教育格局,在縮小差距的同時(shí)提高標(biāo)準(zhǔn)。
不過(guò)也有網(wǎng)友持不同觀點(diǎn):
擅長(zhǎng)使用AI的人可能表現(xiàn)會(huì)非常出色,那種看起來(lái)差距縮小的情況可能只是因?yàn)橛袧M績(jī)點(diǎn)4.0這一上限。
AI會(huì)是“平衡器”嗎?
除了上面所說(shuō)的,我們查看論文,發(fā)現(xiàn)研究人員還得出了這些結(jié)論:
- 使用GPT-4對(duì)參與者總體任務(wù)完成的質(zhì)量影響較小且不穩(wěn)定;
- 使用GPT-4顯著減少了參與者完成任務(wù)的時(shí)間;
- 平時(shí)技能水平較低的參與者在使用GPT-4后,任務(wù)完成質(zhì)量提升最為顯著,本就能獨(dú)立高質(zhì)量完成任務(wù)的參與者獲得的質(zhì)量提升較??;
- GPT-4能為所有學(xué)生節(jié)省相似的時(shí)間,無(wú)論他們?cè)就瓿扇蝿?wù)的速度如何;
- 即便參與者不了解自己在各項(xiàng)任務(wù)上的具體成績(jī),他們也能明確指出GPT-4最有效的應(yīng)用場(chǎng)景。
下面一起來(lái)看實(shí)驗(yàn)詳情。
具體來(lái)說(shuō),來(lái)自南加州大學(xué)Gould法學(xué)院、明尼蘇達(dá)大學(xué)法學(xué)院的幾位教授,以研究AI輔助對(duì)法律分析的影響為例。
給參與實(shí)驗(yàn)的60位來(lái)自明尼蘇達(dá)大學(xué)法學(xué)院的學(xué)生提出了四項(xiàng)初級(jí)律師常見(jiàn)的任務(wù):起訴狀起草(Complaint Drafting)、合同起草(Contract Drafting)、員工手冊(cè)起草(EE Handbook)和客戶備忘錄起草(Client Memo)。
不同的是,這些參與者隨機(jī)分為兩組(A組、B組),每組30人。A組參與者需使用GPT-4完成起訴狀起草、合同起草任務(wù),而B(niǎo)組使用GPT-4完成員工手冊(cè)起草和客戶備忘錄起草任務(wù)。
實(shí)驗(yàn)前,全部學(xué)生都接受了約2小時(shí)的培訓(xùn),了解如何有效使用GPT-4進(jìn)行法律分析。完成任務(wù)過(guò)程中,參與者需記錄自己完成任務(wù)的時(shí)間。
然后,研究人員在不知道參與者身份和其他信息的情況下,匿名完成所有作品的評(píng)分。
具體實(shí)驗(yàn)結(jié)果如下。
在4.0績(jī)點(diǎn)機(jī)制上,使用GPT-4輔助后,學(xué)生在四項(xiàng)任務(wù)中的平均分?jǐn)?shù)波動(dòng)幅度為+0.17、+0.24、+0.07、-0.07。
可視化圖表更直觀:
總的來(lái)說(shuō),僅合同起草任務(wù)的表現(xiàn)在95%置信水平上展現(xiàn)出了統(tǒng)計(jì)學(xué)意義上的顯著提升。
再來(lái)看使用和不使用GPT-4參與者,完成任務(wù)平均花費(fèi)的時(shí)間:
可以直觀地看到,參與者完成任務(wù)時(shí)間大大縮減:
更多數(shù)據(jù)和分析內(nèi)容,感興趣的朋友可查看論文。
值得一提的是,幾位教授在論文最后,還寫(xiě)下了12頁(yè)啟示,針對(duì)律師、法律客戶、法官以及法學(xué)院、法學(xué)院學(xué)生提出了不同的建議。
其中指出:法學(xué)院需要重新考慮學(xué)生使用AI的時(shí)機(jī)和方法,以及在何種情況下應(yīng)限制AI的應(yīng)用,以便更好地適應(yīng)未來(lái)實(shí)踐的需求。
此外,針對(duì)不同人群的類(lèi)似研究也不在少數(shù)。
職場(chǎng)中AI會(huì)是“平衡器”嗎?
來(lái)自哈佛商學(xué)院、沃頓商學(xué)院、MIT斯隆管理學(xué)院等的研究人員聯(lián)合波士頓咨詢公司做了一項(xiàng)研究。
他們選取了波士頓咨詢公司中的部分高知員工,讓他們使用AI輔助完成分析、創(chuàng)意構(gòu)思和說(shuō)服技巧等18項(xiàng)任務(wù)測(cè)試。
結(jié)果發(fā)現(xiàn),原本表現(xiàn)位于團(tuán)隊(duì)下半層的顧問(wèn)們?cè)贏I輔助下成果質(zhì)量提升了43%;而平時(shí)表現(xiàn)在上半層的顧問(wèn)僅提升了17%。
使用GPT-4之前,頂尖員工與其他員工之間的平均差距為22%;使用之后,這一差距顯著縮小至4%。
MIT的一項(xiàng)研究同樣表明,使用ChatGPT之后,高水平寫(xiě)作者和低水平寫(xiě)作者的表現(xiàn)差異縮減了一半。
創(chuàng)意寫(xiě)作領(lǐng)域亦見(jiàn)相似現(xiàn)象,倫敦大學(xué)學(xué)院、??巳卮髮W(xué)研究人員的一項(xiàng)實(shí)驗(yàn)表明,創(chuàng)意作家技能差距縮小,GPT-4提供的五個(gè)創(chuàng)意靈感“有效地平衡了不同創(chuàng)造力水平作家的創(chuàng)造力評(píng)分”。
不過(guò),盡管有多項(xiàng)研究表明使用AI可以縮減人們之間的技能差距,但正如論文分享者、沃頓商學(xué)院教授Ethan Mollick所言:
技能的造王者(King Maker)、加速器(Escalator)、平衡器(Leveler),AI究竟將扮演哪一種角色,并不是總是很清楚。
你認(rèn)為AI在你的身邊正扮演著哪種角色?