AI也會被催眠嗎？
終有一天，也許是在幾十年之內(nèi)，我們可能會使用人工神經(jīng)網(wǎng)絡(luò)制造機器、以具備現(xiàn)實意義的方式模擬人類大腦。但到那個時候，具有如此威能的造物要如何保證安全?如何確保AI不會像人類這樣極易被外力所誘導(dǎo)與操控?
機器人，也會被催眠嗎?
AI領(lǐng)域的至高圣杯，無疑是實現(xiàn)與人類相信的智能水平。很多不熟悉這一專業(yè)領(lǐng)域的朋友往往被炒作性質(zhì)的報道所誤導(dǎo)，以為現(xiàn)代AI已經(jīng)具備極高的智能。
但事實上，世界上還沒有任何一臺機器人能夠直接走進廚房，在無需外力幫助的前提下泡出一杯香濃的咖啡。
為什么這么簡單的工作也能難倒AI?因為它還不具備真正的思考能力。AI并沒有“思維的舞臺”，也創(chuàng)造不出基于記憶及激勵因素的新穎思想。相反，它只是根據(jù)被告知的方式，將輸入內(nèi)容轉(zhuǎn)換為輸出結(jié)果。
但也有一些AI研究人員認為，在深度學(xué)習(xí)之外，還有其他能夠?qū)崿F(xiàn)更趨“自然”的AI形式的途徑。
通往人工通用智能(AGI，普遍認為AGI就是具備人類智能水平的AI)的常規(guī)道路之一，就是使用人工神經(jīng)網(wǎng)絡(luò)模擬人腦的運作方式。但既然是要模擬人腦，那么機器智能是否也會被催眠師所俘獲?
有殺手機器人，就有殺手催眠機器人
有些人害怕“終結(jié)者”這樣毫無人性的機器會突然闖進家門。但更恐怖的，也許反而是機器身上較為“人性”的一面。
作為極富爭議的領(lǐng)域之一，催眠術(shù)似乎擁有著神奇的力量。雖然不少學(xué)者都在發(fā)表論文質(zhì)疑催眠術(shù)的實際效果，但根據(jù)最近的研究結(jié)論，我們確實可以通過某個特定的字眼轉(zhuǎn)變?nèi)祟惖囊庾R狀態(tài)。當然，這種事并不是百試百靈，其中多少有些“技巧”的成分在。
但如果把催眠術(shù)的這種特定效用推廣開來，我們可能真的需要擔心，未來人類打造的先進機器人是不是也會受到類似的影響。
一般的玩笑式催眠當然無傷大雅，但如果恐怖分子對交通信號燈的指控系統(tǒng)進行催眠，甚至借此入侵數(shù)百萬輛自動駕駛汽車，引發(fā)的后果將不堪設(shè)想。
這么說，是不是有點危言聳聽?
并不全是。就目前來看，機器學(xué)習(xí)中的偏差/偏見已經(jīng)成為一大核心難題。在向機器提供大量人工造成或標記的數(shù)據(jù)時，其中不可避免要存在某些偏差/偏見因素。正因為如此，GPT-3對穆斯林建立起刻板印象，麻省理工也在使用Reddit數(shù)據(jù)進行訓(xùn)練后得到了一個“精神病患者”性質(zhì)的AI模型。
事實上，AI系統(tǒng)采取的學(xué)習(xí)與思考方式越是趨近于人類，就越是可能像人類的頭腦那樣受到外部誘導(dǎo)的影響。
這種威脅真實存在。也許有一天，黑客們會使用對傳統(tǒng)計算機毫無影響的批量信號沖擊AI系統(tǒng)，借此操縱其思維方式。
能夠理解自然語音的AI系統(tǒng)甚至可能受到音頻操控，具備計算機視覺功能的AI系統(tǒng)則可能被精心設(shè)計的畫面所蒙蔽。從理論出發(fā)，具備人類智能的AI應(yīng)該也會像我們一樣在催眠之下迷失自我。
