用AI查詢癌癥相關(guān)問題,ChatGPT的回答靠得住嗎?
最近進(jìn)行的一項(xiàng)研究發(fā)現(xiàn),AI聊天機(jī)器人ChatGPT為人們對(duì)癌癥常見一些的誤解和誤區(qū)提供了97%的正確答案,但由于其間接的或可能令人困惑的語言描述引起了人們的擔(dān)憂,研究人員建議患者在使用聊天機(jī)器人獲取癌癥信息時(shí)需要小心謹(jǐn)慎。
發(fā)表在《美國(guó)國(guó)家癌癥研究所》雜志上的一項(xiàng)研究報(bào)告深入探討了聊天機(jī)器人和AI在提供癌癥相關(guān)信息方面的應(yīng)用。研究人員發(fā)現(xiàn),這些數(shù)字資源準(zhǔn)確地揭穿了關(guān)于癌癥常見的一些誤區(qū)和誤解。這項(xiàng)開創(chuàng)性的研究是由美國(guó)亨茨曼癌癥研究所物理學(xué)家、猶他大學(xué)放射腫瘤學(xué)系助理教授、醫(yī)學(xué)博士Skyler Johnson領(lǐng)導(dǎo)一個(gè)研究團(tuán)隊(duì)進(jìn)行的,其目的是評(píng)估ChatGPT提供癌癥信息的可靠性和準(zhǔn)確性。
Johnson和他的團(tuán)隊(duì)使用美國(guó)國(guó)家癌癥研究所(NCI)列出的常見的癌癥誤區(qū)和誤解作為訓(xùn)練數(shù)據(jù)。他們發(fā)現(xiàn),ChatGPT提供的答案準(zhǔn)確率達(dá)到97%。然而,這個(gè)結(jié)果也伴隨著令人關(guān)注的警告。研究團(tuán)隊(duì)主要擔(dān)憂的一個(gè)問題是,ChatGPT提供的一些答案可能會(huì)被患者誤解或誤讀。
Johnson說:“這可能會(huì)導(dǎo)致癌癥患者做出一些錯(cuò)誤的決定?!痹搱F(tuán)隊(duì)因此建議患者在是否使用聊天機(jī)器人獲取癌癥信息時(shí)需要小心謹(jǐn)慎。
研究發(fā)現(xiàn),由于審稿者進(jìn)行盲審,這意味著他們不知道其答案是來自聊天機(jī)器人還是美國(guó)國(guó)家癌癥研究所(NCI),雖然大多數(shù)答案是準(zhǔn)確的,但審稿者發(fā)現(xiàn)ChatGPT提供的答案是間接的或模糊的,在某些情況下甚至是錯(cuò)誤的。
Johnson說:“我認(rèn)識(shí)到并理解癌癥患者和醫(yī)護(hù)人員獲取準(zhǔn)確信息的困難。需要對(duì)這些來源進(jìn)行研究,以便我們能夠幫助癌癥患者在網(wǎng)上信息環(huán)境中摸索出診斷結(jié)果的答案?!?/p>
而錯(cuò)誤的信息會(huì)傷害癌癥患者。Johnson和他的團(tuán)隊(duì)在之前發(fā)表在《國(guó)家癌癥研究所雜志》上的一項(xiàng)研究報(bào)告指出,他們發(fā)現(xiàn)社交媒體上的錯(cuò)誤信息很常見,并且有可能危害癌癥患者。
接下來的研究工作是評(píng)估患者使用聊天機(jī)器人獲取癌癥信息的頻率,他們問的是什么問題,以及AI聊天機(jī)器人是否能提供有關(guān)癌癥的罕見或不尋常問題的準(zhǔn)確答案。