12月30日消息，想象一下，一個(gè)先進(jìn)的人工智能系統(tǒng)，它能在你做出決策之前就精準(zhǔn)預(yù)測你的選擇，并將這些寶貴的信息出售給企業(yè)。劍橋大學(xué)的研究者們警示我們，這種看似科幻卻實(shí)則令人不安的情景，可能會在他們提出的“意圖經(jīng)濟(jì)”中真正上演。在這個(gè)嶄新的市場體系內(nèi)，人的意愿和動機(jī)將被商品化，成為數(shù)字時(shí)代可交易的貨幣。這種經(jīng)濟(jì)形態(tài)不僅挑戰(zhàn)我們對個(gè)人隱私的理解，更可能重塑我們對自我意志與選擇權(quán)的認(rèn)知。

“除非受到監(jiān)管，否則意向經(jīng)濟(jì)將把你的動機(jī)視為新的貨幣。對于那些瞄準(zhǔn)、引導(dǎo)和出售人類意圖的人來說，這將是一場淘金熱，”劍橋大學(xué)未來智能中心(LCFI)的技術(shù)歷史學(xué)家Jonnie?Penn博士警告說。

研究人員認(rèn)為，對話式人工智能和聊天機(jī)器人的興起正在為社交操縱創(chuàng)造前所未有的機(jī)會。這些系統(tǒng)將把我們上網(wǎng)習(xí)慣的知識與復(fù)雜的個(gè)性模仿結(jié)合起來，建立深層次的信任，同時(shí)通過隨意的交談收集私密的心理數(shù)據(jù)。

LCFI訪問學(xué)者Yaqub?Chaudhary博士解釋說：“人們在交談時(shí)說了什么，他們怎么說，以及由此產(chǎn)生的實(shí)時(shí)推斷類型，比在線互動的記錄要親密得多。”

大型科技公司已經(jīng)在為這一未來奠定基礎(chǔ)。OpenAI呼吁“能夠跨越任何語言、主題和格式表達(dá)人類意圖的數(shù)據(jù)”。蘋果新的開發(fā)者框架包括“預(yù)測某人未來可能采取的行動”的協(xié)議。與此同時(shí)，英偉達(dá)的首席執(zhí)行官公開討論了使用人工智能語言模型來找出意圖和欲望。

Jonnie?Penn警告說：“在我們成為其意想不到的后果的受害者之前，我們應(yīng)該開始考慮這樣一個(gè)市場對人類愿望的可能影響?！?/p>

雖然研究人員承認(rèn)這種未來并非不可避免，但他們強(qiáng)調(diào)需要立即引起公眾的注意和討論?！肮娨庾R到即將發(fā)生的事情是確保我們不走上錯(cuò)誤道路的關(guān)鍵?！盤enn總結(jié)道。

這項(xiàng)研究發(fā)表在《哈佛數(shù)據(jù)科學(xué)評論》上。