不僅是工程學(xué)！人類認知偏差導(dǎo)致的12個AI研究盲區(qū)
大數(shù)據(jù)文摘出品
編譯：狗小白、張秋玥、Aileen
人類天生存在許多認知偏差，而這對科學(xué)進步危害巨大。科學(xué)研究傾向于偏好既有研究方法，進而導(dǎo)致許多研究體系中的內(nèi)在特性被忽略。
因此，研究者很可能不幸花費畢生追索錯誤無意義的方向。回顧歷史，科學(xué)長河中充斥著許多后人證明為錯誤因而毫無價值的研究。
Sabine Hossenfelder在她粒子物理學(xué)領(lǐng)域中寫過這認知偏差。她在《迷失在數(shù)學(xué)中(Lost In Math)》一書中探索了一群世上***天賦的科學(xué)家們所具有的認知偏差。
她表示，這些科學(xué)家們雖具有優(yōu)秀的認知能力，但在不懈追求美的道路上，理論物理學(xué)家們也走進了科學(xué)的誤區(qū)，物理學(xué)在過去的四十來年內(nèi)沒出現(xiàn)任何重大突破。她認為，科學(xué)的客觀性已屈服于采取具有美學(xué)意義的方法論。
這篇文章中，我會探索在人工智能(或強人工智能AGI)領(lǐng)域探索過程中存在的類似偏差。
可能存在的偏差之一即是貝葉斯定理的濫用。貝葉斯定理的產(chǎn)生啟發(fā)自奧卡姆剃刀定律：“需要假設(shè)條件最少的理論解釋最可能是正確的理論。”
因而，許多科學(xué)家們忠于他們的職業(yè)，并信仰“所有的事情都應(yīng)該盡可能簡單，但又不過分簡單”的理念。
以上的確是人類理解世界的優(yōu)秀法則，但也正是Hossenfelder所反對的美學(xué)主義。科學(xué)研究的重大突破往往依賴于科學(xué)家們某個瞬間的第六感，但這些假設(shè)不應(yīng)導(dǎo)致對預(yù)感的武斷應(yīng)用。在此引用Richard Feynman的一句：“無論你的理論多么美妙，你又有多么聰明，但如果與實驗結(jié)果相佐，你的理論就是錯的。”
在此我想談一談大部分(強)人工智能研究者總是忽視的12個事實：
1. 直覺
認知心理學(xué)家們早已確定，人類認知的運作依賴于兩種獨立的認知方式，這就是雙過程理論。直覺思維與理性意識互為競爭又相互協(xié)作，支持著人類認知。老式的人工智能的失敗可追溯至當(dāng)時對人類認知主要基于理性認知系統(tǒng)的理念，雖然諸多證據(jù)表明并非如此。直覺認知系統(tǒng)才是驅(qū)動所有人類認知的本質(zhì)發(fā)動機，人類認知普遍采用“分期推斷”。
2. 睡眠
大自然要求睡眠占人類生***一個不小的部分。缺覺會導(dǎo)致認知障礙，最終可能致死。至少有實證證據(jù)表明，睡眠對認知發(fā)展具有重要意義。但不幸的是，很多研究者忽視了人類“待機狀態(tài)下的”認知發(fā)展。而事實上，人類掌握抽象概念的能力很可能是在睡眠過程中成長的。
3. 不全面的呈現(xiàn)
很久以來，科學(xué)家們都試圖找到內(nèi)部心理的生成呈現(xiàn)出外部世界的存在，因此，老式的人工智能建立符號模型來倒映外部世界的語義。深度學(xué)習(xí)訓(xùn)練網(wǎng)絡(luò)學(xué)習(xí)對世界的內(nèi)部呈現(xiàn)，這個內(nèi)部呈現(xiàn)在一個連續(xù)的高維空間反應(yīng)出觀察結(jié)果的語義。這個空間則允許諸如理性、相似性比較之類的操作。
這有兩個問題：***個問題是內(nèi)部呈現(xiàn)拋出了更深層的問題，繪制外部真實世界的內(nèi)部呈現(xiàn)仍需要一些用以理解內(nèi)部呈現(xiàn)的東西。第二個問題是，我們其實只關(guān)注我們觀察到的世界里的其中一小部分。認知盲區(qū)是存在的，不像機器那樣能夠留下圖片般的呈現(xiàn)，我們只關(guān)注很小一部分的圖景，其它部分靠想象。James Gibson在他生態(tài)認知的理論中描述了另一種基于可供性的呈現(xiàn)，也即大腦僅僅捕獲環(huán)境中可能存在的而非環(huán)境真實的反映。
4. 靈敏度
我們是如何僅靠觸摸來分辨一個物體的?我們是如何靠摸就能辨認出棕色袋子里的蘋果?很明顯，感知并不僅靠現(xiàn)實世界的一張快照，而是由多角度的快照組合成一個前后一致的統(tǒng)一。人類擁有異乎尋常的靈巧的手，也許正因此我們才有了高級認知能力。我們對世界有更好的呈現(xiàn)，也許是因為我們與世界的參與度更高，且能夠更好地分辨不相干信息。但在如今的研究中，卻很少涉及認知方面的探索，以及一體化機制。
5. 有限的理性
人類并非全然的理性動物。大多數(shù)人無法同時處理五個以上的事情，幾乎所有人都無法探索三層以上的遞歸信息。但大部分諸如AIXI、梭羅莫諾夫感應(yīng)、符號計算和概率推理等AGI的議題都要求全然的理性。我想表達的是，簡單啟發(fā)式思維也許就是驅(qū)動人類思考的全部了，我們并不需要求助于優(yōu)雅的數(shù)學(xué)方法。研究者傾向于從他們的“武器庫”里取出那些數(shù)學(xué)工具來用，于是，要么把問題復(fù)雜化了，要么就是由于人類認知能力的問題而選錯了工具。莫羅夫復(fù)雜度(Kolmogorov complexity) 是一個衡量復(fù)雜度的有趣的公式，但這個方法幾乎沒可能與人類的有限理性卻完全的智能程度有任何相關(guān)性。
6. 描述性模型v.s.生成性模型
Daniel Dennett將革命和圖靈機器人描述成“不能思考的技能擁有者”，因為他們擁有相當(dāng)?shù)哪芰硗瓿珊芏鄰?fù)雜的流程，但卻不明白為什么這么做。當(dāng)然這也是眾所周知了。但這迷惑了許多不能理解復(fù)雜設(shè)計怎么能從非智能中生成的人們。我懷疑這是因為人類的認知偏差要求從混沌中找出規(guī)律，從而找到內(nèi)在的設(shè)計。
關(guān)于現(xiàn)實的數(shù)學(xué)模型或邏輯模型都是描述性模型。這意味著，科學(xué)家們通過恒定的定律來分辨世界中的規(guī)律，而這些定律被視為現(xiàn)實世界的縮影描述。但是，描述性模型并非現(xiàn)實世界的本質(zhì)，它們只不過是從復(fù)雜生成行為中觀察出的規(guī)律。
即使不存在規(guī)律，人類也還是努力去尋找聯(lián)系。我們看著天上的云，以為看到復(fù)活節(jié)兔子。但變化多端的云彩并非有意幻化成復(fù)活節(jié)兔子的樣子，這是人類尋找世界規(guī)律過程中的一個主觀臆斷。這意味著，對世界的描述性模型至多只是在歸納現(xiàn)實行為中的特點，但并非是生成式模型。因此，如同概率模型等描述性模型模擬情景模擬得再好也只是模擬，與生成式模型不同。此外，“停機問題”意味著，通過觀測的描述性模型來發(fā)現(xiàn)真實的生成式模型是不現(xiàn)實的。
7. 生成自遠離均衡過程
生成性而非描述性的規(guī)律究竟緣何而起?熱力學(xué)的第二定理表明了萬物傾向于混沌。混沌在此指的是一個測量單位，也即熵值，描述了我們無法從觀測中找到描述性的規(guī)律。Ilya Prigogine表示，遠離均衡的狀態(tài)下才能找到規(guī)律。而現(xiàn)今的機器學(xué)習(xí)方法論的問題在于，運用的數(shù)學(xué)總是假設(shè)一定的均衡狀態(tài)。
然而，我們還是不能僅僅考慮自我管理的功能。認知能力會不斷通過一個層層嵌套新出現(xiàn)能力的程式來鍛煉提升自己。新出現(xiàn)問題的一項數(shù)學(xué)上的缺陷是，它無法被預(yù)先計算出來。這是因為每一項新出現(xiàn)的能力都會使可能組合的數(shù)量大大增加，而同時一些先前未知的事件變得已知。人類科技創(chuàng)新既是對此的直觀描述。在萬維網(wǎng)被發(fā)明之前，誰能想象到谷歌的今天呢?
8. 主觀性
認知模型中最容易被忽視的信息之一則是關(guān)于自身的信息。所有生物學(xué)上的反應(yīng)都與生物自身原始概念相關(guān)。也就是說，生物們的行為都由其生存與繁衍的基本目標(biāo)驅(qū)動。所有的生物學(xué)原理都由這種維持自我邊界的概念所驅(qū)動。因此當(dāng)我們開始探索更高級的存在(比如我們自己)的時候，我們必須在模型中囊括自我的概念。這樣做將導(dǎo)致自我模型需要被嵌入于某生態(tài)系統(tǒng)中。一個有認知的個體必須與能夠意識到自我行為以及其行為如何與生態(tài)系統(tǒng)所交互的***人稱視角模型相結(jié)合。
9. 納米意向性
最簡單的生物細胞中都存在維持自我的復(fù)雜認知行為。Michael Levin的研究表明，在缺少中央神經(jīng)系統(tǒng)時，形態(tài)發(fā)生過程中會需要復(fù)雜的認知(也即生物電計算)。這個觀點大大扭轉(zhuǎn)了我們針對人類大腦建立的描述性模型。如果每一個神經(jīng)元都與真核細胞擁有一致的復(fù)雜行為，那么深度學(xué)習(xí)發(fā)現(xiàn)的協(xié)調(diào)操作模型可能并不足以捕捉基本能力(比如協(xié)調(diào)能力與自我修復(fù)能力)。
10. 非靜態(tài)認知模型
我們目前擁有的認知模型均為靜態(tài)模型，并且適用于單件任務(wù)。然而，若想實現(xiàn)生物學(xué)級別的協(xié)調(diào)適應(yīng)性，我們的認知模型并不能為靜態(tài)模型;它們需要變得連續(xù)、及時并且可對話。我們需要最適合的啟發(fā)式算法支持的持續(xù)場景切換以保證模型隨著生態(tài)系統(tǒng)變化而調(diào)整。
結(jié)構(gòu)是如何在一個復(fù)雜且動態(tài)的生態(tài)系統(tǒng)中被保存的呢?生物個體能夠自我調(diào)節(jié)，擁有許多有意圖的成員的生態(tài)系統(tǒng)也能夠自我調(diào)節(jié)——存在防止事物偏離平衡點的更高一層機制。這將會是允許我們跟蹤復(fù)雜對話的那項機制嗎?
11. 集合而非個體
自我模型不能與其成長的生態(tài)分離。實際上，各項能力基本只能在與其成長的生態(tài)非常不同的環(huán)境中被培養(yǎng)出來。比如，生命需要氨基酸、DNA與脂質(zhì)。這三項物質(zhì)到底是如何各自進化成為互相必不可少的成分呢?它們很可能在不同的生態(tài)系統(tǒng)內(nèi)各自進化直到在目前的生物圈內(nèi)進入一個協(xié)同關(guān)系。總體來說，生命無法脫離其歸屬的生態(tài)系統(tǒng)。這可能也意味著，高級認知能力——比如語言能力——無法脫離人類存在的文化環(huán)境而成長。人們并非與生俱來地擁有語言能力，而是我們獨特的文化教育了我們語言能力。
12. 產(chǎn)前發(fā)展與幼態(tài)持續(xù)發(fā)展
你有思考過為什么哺乳動物(比起更為原始的有袋類動物)會使其后代在子宮中發(fā)育嗎? 你知道人類嬰兒會在離開子宮真正出生之前數(shù)周就已擁有完整的認知能力了嗎?我們假設(shè)人類認知發(fā)展在出生之后才開始，然而實際上關(guān)于它在出生之前就已開始的證據(jù)非常充足;也正因于此，許多母親與世界的反應(yīng)與交互反映在她子宮中的孩子身上。孩子在子宮中學(xué)到了什么呢?
另一項人類的獨特之處在于，比起其他生物我們保持孩童外表的時間相對較長。2.5歲至3歲的人類與大猩猩認知水平類似。動物保持年幼外表的這一特性被稱為幼態(tài)持續(xù)。以狗類為例，相較其狼類表親，它們保持較大的眼睛、松弛的耳朵以及更短的鼻吻。蠑螈在其整個”人生“中都保持其嬰兒時期的狀態(tài);他們擁有一項驚人的能力——重新長出其身體的一部分。
一項近期研究表明，在人類體內(nèi)299項與年齡相關(guān)的基因中，有40項基因在人生后期才會被表達。實際上，為大眾所知，成熟相對較快的人類會喪失部分認知能力。保持年輕確實對認知能力有好處。年輕人擁有比成年人更強的腦可塑性;更久地保持年輕能夠使人們擁有更多時間來發(fā)展那些從社會中獲得的認知技能(即模仿能力、語言能力與共情能力)。
人類可能比其他物種更有智慧是因為我們保持了更久的好奇與探索心這樣的學(xué)習(xí)能力。
這***一點旨在告訴你，那些僵化的學(xué)習(xí)策略——比如依賴于其”武力、宗教或仇恨“的策略——是很難創(chuàng)新的。而那些試圖探索新道路的則是最可能發(fā)掘出新事物的策略。
敲黑板總結(jié)一下!
你可能已經(jīng)注意到了，這些盲點之間相互聯(lián)系。它們并非毫不相關(guān);結(jié)合在一起，它們?yōu)榍把谹GI研究揭示了一種新穎的完整角度。上文有趣之處在于它與常見的過度注重技術(shù)問題的那些AGI研究截然不同。這可能是由大多數(shù)STEM課程帶來的認知偏差導(dǎo)致的。
你不能搭建空中樓閣式的AGI模型;相反，你得從根基開始搭建——這意味著你得一步步培育它。因此我們需要一種自然而有邏輯的方法。盡管，”成長智慧“這一概念看起來顯而易見，其實有大量研究者堅持走相反的道路(非常令人吃驚!)。很多人都有這樣的偏見：AI就是工程學(xué)。而實際上它與心理學(xué)與生物學(xué)更為相關(guān)。
在Beyond Efficiency一文中，Dave Ackley討論了為什么我們的計算系統(tǒng)如此脆弱這一問題。他認為這應(yīng)歸咎于”只能正確、只能高效“的心態(tài)。經(jīng)常發(fā)生的計算機安全漏洞告訴我們，我們應(yīng)當(dāng)在其中應(yīng)用生物學(xué)告訴我們的魯棒性知識。Ackley怪罪于我們沒有強調(diào)”系統(tǒng)性思考“。
系統(tǒng)性思考著重于一種關(guān)注結(jié)構(gòu)的整體性方法;這與控制論相關(guān)(控制論學(xué)習(xí)控制、反饋、管制與交互)。高級AGI將需要我們更好地理解人類認知，以及對生物學(xué)復(fù)雜性的認識。因此我將在這里重述Arthur C. Clarke關(guān)于科技的名言。更精確地說這句話將為：任何足夠先進的科技都與生物學(xué)密不可分。
相關(guān)報道：
https://medium.com/intuitionmachine/12-blind-spots-about-human-cognition-1883d0d58e0a
【本文是51CTO專欄機構(gòu)大數(shù)據(jù)文摘的原創(chuàng)譯文，微信公眾號“大數(shù)據(jù)文摘（ id: BigDataDigest）”】
