12月30日消息，想象一下，一個(gè)先進(jìn)的人工智能系統(tǒng)，它能在你做出決策之前就精準(zhǔn)預(yù)測(cè)你的選擇，并將這些寶貴的信息出售給企業(yè)。劍橋大學(xué)的研究者們警示我們，這種看似科幻卻實(shí)則令人不安的情景，可能會(huì)在他們提出的“意圖經(jīng)濟(jì)”中真正上演。在這個(gè)嶄新的市場(chǎng)體系內(nèi)，人的意愿和動(dòng)機(jī)將被商品化，成為數(shù)字時(shí)代可交易的貨幣。這種經(jīng)濟(jì)形態(tài)不僅挑戰(zhàn)我們對(duì)個(gè)人隱私的理解，更可能重塑我們對(duì)自我意志與選擇權(quán)的認(rèn)知。

“除非受到監(jiān)管，否則意向經(jīng)濟(jì)將把你的動(dòng)機(jī)視為新的貨幣。對(duì)于那些瞄準(zhǔn)、引導(dǎo)和出售人類意圖的人來說，這將是一場(chǎng)淘金熱，”劍橋大學(xué)未來智能中心(LCFI)的技術(shù)歷史學(xué)家Jonnie?Penn博士警告說。

研究人員認(rèn)為，對(duì)話式人工智能和聊天機(jī)器人的興起正在為社交操縱創(chuàng)造前所未有的機(jī)會(huì)。這些系統(tǒng)將把我們上網(wǎng)習(xí)慣的知識(shí)與復(fù)雜的個(gè)性模仿結(jié)合起來，建立深層次的信任，同時(shí)通過隨意的交談收集私密的心理數(shù)據(jù)。

LCFI訪問學(xué)者Yaqub?Chaudhary博士解釋說：“人們?cè)诮徽剷r(shí)說了什么，他們?cè)趺凑f，以及由此產(chǎn)生的實(shí)時(shí)推斷類型，比在線互動(dòng)的記錄要親密得多。”

大型科技公司已經(jīng)在為這一未來奠定基礎(chǔ)。OpenAI呼吁“能夠跨越任何語言、主題和格式表達(dá)人類意圖的數(shù)據(jù)”。蘋果新的開發(fā)者框架包括“預(yù)測(cè)某人未來可能采取的行動(dòng)”的協(xié)議。與此同時(shí)，英偉達(dá)的首席執(zhí)行官公開討論了使用人工智能語言模型來找出意圖和欲望。

Jonnie?Penn警告說：“在我們成為其意想不到的后果的受害者之前，我們應(yīng)該開始考慮這樣一個(gè)市場(chǎng)對(duì)人類愿望的可能影響。”

雖然研究人員承認(rèn)這種未來并非不可避免，但他們強(qiáng)調(diào)需要立即引起公眾的注意和討論。“公眾意識(shí)到即將發(fā)生的事情是確保我們不走上錯(cuò)誤道路的關(guān)鍵。”Penn總結(jié)道。

這項(xiàng)研究發(fā)表在《哈佛數(shù)據(jù)科學(xué)評(píng)論》上。