?“ 大模型的幻覺是一把雙刃劍，并不是非黑即白 ”

大模型技術(shù)經(jīng)過這幾年的發(fā)展，已經(jīng)可以算是小有成就；雖然大模型已經(jīng)開始融入到部分企業(yè)應(yīng)用場景中，但不得不說在應(yīng)用中大模型還存在很多問題；特別是在一些要求比較嚴(yán)格的應(yīng)用場景中，甚至都不太敢使用大模型；比如說醫(yī)療，自動駕駛等領(lǐng)域。

原因就在于大模型的不確定性，畢竟大模型的幻覺問題一直沒有被解決；所以這就帶來一個問題，大模型能徹底解決幻覺問題嗎？也就是說大模型能做到百分之百的準(zhǔn)確率嗎？以及需要徹底解決大模型的幻覺問題嗎？大模型的幻覺是否真的就是一種錯誤。

大模型的幻覺問題

 目前來看大模型的幻覺問題來自于其自身原因，由于大模型的底層構(gòu)造是建立在概率和統(tǒng)計的基礎(chǔ)之上(雖然也不完全是概率)；但由此帶來的大模型幻覺問題，一直被很多人所詬病。

而且雖然大模型的幻覺問題目前還沒有辦法解決，但業(yè)內(nèi)也在不斷想辦法來降低大模型的幻覺問題，減少幻覺發(fā)生的概率。

在很多應(yīng)用場景中，采用微調(diào)和RAG技術(shù)大大降低了大模型幻覺發(fā)生的概率；而且即使有部分幻覺問題也是可以被忍受的，比如在智能客服領(lǐng)域，雖然有時候大模型會胡說八道，但這并不會對主要業(yè)務(wù)產(chǎn)生影響；而且也不會產(chǎn)生嚴(yán)重后果。

所以，從這個角度來說大模型的幻覺問題并沒有大家想象中的那么嚴(yán)重；但在某些領(lǐng)域，大模型的幻覺問題就是不可接受的。

比如說醫(yī)療，精密制造和自動駕駛等領(lǐng)域；在這些領(lǐng)域，任何微小的失誤都有可能帶來巨大的風(fēng)險與后果。因此，基于這種應(yīng)用場景，就有人在思考怎么讓大模型擁有百分之百的準(zhǔn)確率？

但從目前的實踐來看，單純從技術(shù)的角度還無法徹底解決大模型的幻覺問題；唯一的辦法就是用人力去兜底，也就是說大模型產(chǎn)生的內(nèi)容在有歧義的情況下由人類來做最終的決定；或者就是說大模型幻覺問題不會帶來嚴(yán)重后果的情況下，即使出點問題也不用管。

但不知道大家有沒有想過這樣一個問題，那就是為什么一定要解決大模型的幻覺問題，大模型幻覺的存在一定是錯誤的嗎？

記得在前幾天刷視頻的時候看到了360老板周鴻祎的一個視頻，他說大模型的創(chuàng)造能力正是來自于大模型的幻覺；如果大模型的幻覺問題被徹底解決，那么大模型就真正成為了一個無比精密的儀器，雖然它不會犯任何錯誤；但同樣它也不會有任何創(chuàng)新。

就像人類自身一樣，很多偉大的發(fā)明都是因為失誤才成功的；人類技術(shù)的進步就是一個不斷的實驗——失敗——再實驗——再失敗的過程。所以說，犯錯也是一種創(chuàng)造力，沒有了錯誤成功也將不復(fù)存在。

因此，從這個角度來看大模型的幻覺問題既應(yīng)該被解決，又不應(yīng)該被解決；更確切的說在某些領(lǐng)域應(yīng)該想方設(shè)法來降低大模型的幻覺問題；而有些領(lǐng)域，應(yīng)該想方設(shè)法來挖掘大模型幻覺的潛力。

所以，關(guān)于大模型的幻覺問題，最好的方式不是徹底解決它；也不是徹底放飛自我；而是要控制它，要讓大模型的幻覺在可控范圍之內(nèi)；需要它幻覺的時候就幻覺，不需要它幻覺的時候就不要亂幻覺。

?

本文轉(zhuǎn)載自公眾號AI探索時代 作者：DFires

原文鏈接：??https://mp.weixin.qq.com/s/tXzldeoFcOTkoeucFwEP1Q??