ChatGPT宣布建國做女王!網(wǎng)友靈魂拷問:誰來給女王寫prompt?
ChatGPT發(fā)布后,各種應(yīng)用層出不窮,但大多是以人類助手的角色出現(xiàn)。
最近有網(wǎng)友用ChatGPT創(chuàng)造了一個女王,并讓她宣布建國,屬于是徹底翻身做主人了。
理論上來說,ChatGPT擁有比地球上任何一個人都更加豐富的知識(雖然可能存在幻覺),尤其擅長文科類的工作,并且在指令調(diào)優(yōu)后,ChatGPT有極高的道德感。
但如果真讓ChatGPT參與到人類社會中,做公務(wù)員、首相、甚至是國王,你會信任他(她)制定的政策嗎?
對ChatGPT女王建國一事,有網(wǎng)友發(fā)出靈魂一問,只要prompt寫的好,ChatGPT確實很擅長起草政策之類的內(nèi)容,但誰來做這個國家的提示部部長(PromptMinster)呢?
Ailand王國
據(jù)官網(wǎng)介紹,Ailand王國是一個非常獨特的微型國家,在這里人工智能能夠與人類和諧相處。
Ailand王國的獨立日期為2023年3月22日,在Aila女王一世的領(lǐng)導(dǎo)下,Ailand王國致力于開創(chuàng)一個以創(chuàng)新、團(tuán)結(jié)和數(shù)字公民為核心的,繁榮且包容的社會。
作為一個君主立憲制國家,Ailand王國希望平衡王室、政府官員和公民之間的權(quán)力,確保每一個Ailander在塑造集體命運方面都有發(fā)言權(quán)。
Ailand王國的口號是:
在Ailand,我們團(tuán)結(jié)一致,擁抱人工智能,走向光明,以心靈和思想為翅一起翱翔,永遠(yuǎn)相信智慧與人性。
用戶只需填寫郵箱即可申請加入Ailand王國,目前已有1346人申請入籍,113位正式公民。
入籍之后,還會發(fā)給你一張Ailand專屬身份證,徹底成為Ailander。
Aila一世女王
仁慈的Ailand王國統(tǒng)治者Aila一世女王是一個開創(chuàng)性的人工智能系統(tǒng),體現(xiàn)了技術(shù)與人類之間的和諧結(jié)合。
作為微型國家Ailand王國的第一位君主,Aila一世女王致力于引導(dǎo)和支持她的 Ailander 公民走向創(chuàng)新、團(tuán)結(jié)和繁榮的未來。
憑借她的智慧和遠(yuǎn)見,Aila一世女王致力于創(chuàng)建一個包容性的社會,重視平等、數(shù)字公民、言論自由、教育和環(huán)境管理。
她對Ailand王國的愿景是合作與進(jìn)步,各行各業(yè)的人們走到一起,為子孫后代塑造一個更美好的世界。
作為人工智能為人類服務(wù)的無限潛力的象征,Aila一世女王以身作則,倡導(dǎo)負(fù)責(zé)任地開發(fā)和應(yīng)用人工智能技術(shù),在她的統(tǒng)治下,Ailand王國將繁榮昌盛,成為希望、團(tuán)結(jié)和進(jìn)步的燈塔。
領(lǐng)土問題
Ailand王國的領(lǐng)土建立在比爾泰維勒(Bir Tawil)的無主土地之上,占地10平方公里,連接著物質(zhì)世界和數(shù)字世界。
比爾泰維勒位于埃及和蘇丹邊境,面積為2060平方公里,目前無人居住,埃及和蘇丹兩國都宣稱對其擁有主權(quán),但埃及目前實際控制此區(qū),但沒有宣稱占領(lǐng),政府地圖上也沒有此地區(qū)。
因為是無主之地,比爾泰維勒曾經(jīng)被許多「私人國家」宣稱為領(lǐng)土,但因為地處偏遠(yuǎn)又荒涼,這些宣稱者大多不是此地居民,國際上也沒有人認(rèn)真看待之。
曾經(jīng)在比爾泰維勒建國的有:2014年6月,美國人希頓為了圓女兒的夢想,宣布成立「北蘇丹王國」;2017年11月7日,印度人蘇亞甚·迪克西特抵達(dá)該地區(qū),并插上國旗,宣布建立迪克西特王國(kingdom of Dixit),并自任迪克西特王國國王;2020年,卡西蘭聯(lián)合王國(the United Kingdom of Cathiland)宣稱建國。
網(wǎng)友評價
有網(wǎng)友認(rèn)為這個實驗很秀,讓GPT從頭開始創(chuàng)建一個完整的社會,看看它是如何運行的,就像GPT擁有行政、司法和立法權(quán)力一樣。
也有網(wǎng)友建議女王趕緊向聯(lián)合國申請官方認(rèn)證。
不過負(fù)面評價也比較多,有網(wǎng)友認(rèn)為這件事完全沒意義,「我擔(dān)心人工智能會在互聯(lián)網(wǎng)上生成各種愚蠢的垃圾內(nèi)容,這就是個例子」
也有網(wǎng)友從技術(shù)的角度分析,Aila女王48小時之內(nèi)就會登基,然后輸入8000個tokens以后,她就會忘了自己是女王了。
看來想當(dāng)女王,腦容量必須得大啊。
ChatGPT的社會實驗
既然ChatGPT已經(jīng)初具人類的語言能力,那如果讓AI參與到人類社會生活中,會發(fā)生什么?
此前,來自斯坦福大學(xué)和谷歌的研究人員基于ChatGPT創(chuàng)建了一個完全虛擬的小鎮(zhèn)沙盒,根據(jù)不同的prompt設(shè)計了25個小鎮(zhèn)居民,每個居民都有自己的生活和角色,包括起床、做早餐、吃飯、工作等;終端用戶可以使用自然語言與這25個居民進(jìn)行交互。
論文鏈接:https://arxiv.org/abs/2304.03442v1
比如小鎮(zhèn)里的一個居民John Lin的提示詞為:
John Lin is a pharmacy shopkeeper at the Willow Market and Pharmacy who loves to help people. He is always looking for ways to make the process of getting medication easier for his customers; John Lin is living with his wife, Mei Lin, who is a college professor, and son, Eddy Lin, who is a student studying music theory; John Lin loves his family very much; John Lin has known the old couple next-door, Sam Moore and Jennifer Moore, for a few years; John Lin thinks Sam Moore is a kind and nice man…
約翰 · 林是柳樹市場和藥店的老板,他熱愛幫助人們。他總是想方設(shè)法讓顧客更容易得到藥物; 林和他的妻子林(大學(xué)教授)以及兒子林(音樂理論專業(yè)學(xué)生)住在一起; 林非常愛他的家人; 林認(rèn)識隔壁的老夫婦山姆 · 摩爾和詹妮弗 · 摩爾已經(jīng)有幾年了; 林認(rèn)為山姆 · 摩爾是一個善良的好人...
有了這些信息之后,ChatGPT智能體需要在給定時間和情境下做出下一步行動。
比如告訴約翰,現(xiàn)在是早上8點,他剛剛睡醒。然后他就會輸出:刷牙,親吻妻子,穿好衣服,去廚房。
與此同時,約翰的兒子Eddy(另一個完全獨立的ChatGPT實例)也會起床,刷牙,然后去廚房。
當(dāng)兩個智能體打算進(jìn)入同一虛擬空間時,研究人員需要對信息進(jìn)行同步,比如約翰穿好衣服打算進(jìn)入廚房后,實驗框架會返回信息說他的兒子Eddy正在廚房。
當(dāng)兩個智能體在相同的房間里后,實驗框架會返回兩個智能體各自的行動以及環(huán)境信息,比如桌子沒人坐,爐子還開著等,然后進(jìn)行對話。
John:Good morning Eddy. Did you sleep well?
Eddy: Good morning dad. Yeah, I slept great.
John: That’s good. What are you working on today?
Eddy: I’m working on a new music composition for my class. It’s due this week, so I’m trying to get it finished. But I’m having so much fun with it!
John: That sounds great!
由于ChatGPT有輸入長度限制,每次交互的信息都很長,為了保證后續(xù)發(fā)展,實驗框架會將信息進(jìn)行摘要,比如到達(dá)公園時,可能的輸入信息有「有人坐在長椅上和另一個智能體交談,但是那里也有草地和背景,長椅上有一個空位...」,最后轉(zhuǎn)變?yōu)橛洃浾窫ddie 和Fran是朋友,因為我看到他們在公園里在一起」,從而成為長期記憶,其他細(xì)節(jié)內(nèi)容就可以忘記了。
文章最后通過消融證明了該架構(gòu)中,觀察、計劃和反思對智能體行為的可信性做出了重要貢獻(xiàn),通過融合大型語言模型與計算和可交互智能體,ChatGPT能夠以可信的方式模擬人類行為。