Hinton預言的「AI將擁有常識」如何實現？劍橋最新研究：從小狗學起
常識一直是困擾AI發展的難解謎題。就算AI能夠在圍棋比賽中戰勝人類，但機智如GPT-3卻不能理解「太陽有幾只眼睛」這種問題是反常識的。而最近，谷歌DeepMind、帝國理工和劍橋的研究人員開創性地提出，AI可以從動物身上學習常識！今后可以像訓練小狗一樣訓練智能體了。
Geoffery Hinton曾經預言，十年內，我們將研發出具有常識的計算機。
這些計算機并沒有靈魂，它們只是具備了人類世界如何運作的知識，熟悉我們的慣例。它們知道爐子是熱的，知道人們通常不會買12臺烤箱等等。
常識是什么？最通俗的解釋是指與生俱來、毋須特別學習的判斷能力，或是眾人皆知、無須解釋或加以論證的知識。
數十年來，常識是一直以來困擾著AI發展的難解謎題，就算AI能夠在圍棋比賽和Atari游戲中戰勝人類，但聰明如GPT-3卻不能理解「太陽有幾只眼睛」這種問題是違背常識的。
在如何讓AI擁有常識的漫長求索之路上，研究人員往往會從嬰幼兒身上入手，從神經科學和行為科學中尋找靈感和答案。
而最近，谷歌 DeepMind、倫敦帝國理工學院和劍橋大學的人工智能研究人員開創性地提出，AI可以從動物身上學習常識！
這其實不是第一次提出AI應該向動物學習了，AI大神Yann LeCun曾表示，「家貓都比最聰明的機器有常識得多。」
人的常識是建立在許多其他動物所擁有的一系列基本能力之上的，而通過深度強化學習，智能體或許可以從動物身上學到很多東西。
該研究小組發表在《 CellPress Reviews 》雜志上的論文《人工智能與動物常識》(Artificial Intelligence and the Common Sense of Animals)寫道: 「動物認知提供了一個很好理解的，非語言的，智能行為的概要，提出了作為評估基準的實驗方法，它以指導環境和任務設計。」
向小狗學習？像訓練寵物一樣訓練智能體
在著名的伊索寓言中，試驗者要求鳥類將物體投入裝有水和浮動食物的玻璃管中，提升水位，來獲取食物。
訓練動物的過程，通常包含著目標和獎勵。比如說訓練小狗，動作做的對，就獎勵他食物，這和運用深度強化學習訓練智能體的方式有相似之處。
相比之下，其他形式的人工智能，例如助手 Alexa 或 Siri，就不具備這種類似于在迷宮中搜索獎勵或食物的能力。
此前，認知行為科學家已經發現，動物的智力水平比先前設想的要高，包括海鴉的復仇心理和海豚的自我意識。（小孩子要長到一歲半時才能有自我意識，才能認出鏡子里自己的形象）
很多時候，動物甚至會采取欺騙或者詭計來達成自己的目的。例如，黑猩猩把目光從渴望得到的東西上移開，來迷惑競爭對手，而松鴉會假裝把食物儲存在虛假的地點來保護它們的隱秘儲藏處。
實驗中，研究人員將測試場景中的動物和強化學習智能體進行類比，用一種新的方法來測試人工智能系統的認知能力。《人工智能與動物常識》一文細講述了對鳥類和靈長類動物的認知實驗。
這個實驗最初的目的是確定鳥類是否能夠區分與任務相關的功能性和非功能性物體，并探索它們對所涉及的因果關系的理解程度。
做的好才有的吃，學會理解因果，要先試錯！
松鼠會想辦法撬開堅果的外殼，獲取里面的果實；某些鸚鵡也十分擅長從各種容器中提取食物；當看到裂縫，孔洞或破裂之類的東西時，有的動物會作出「我要打開它」的反應。
這是為什么？這是它們的意識中有了「因果」這一概念。
也就是，「只要我打開它，就會有食物。」而這，也是AI要訓練的部分。
作者聯想到訓練動物的方法，發現「試錯」是十分奏效的。
來源于動物認知實驗，用來測試強化學習智能體獲取的常識
如上圖，
(A)使用四種不同形式的管道測試物理認知能力。如果棍子從錯誤的一端拔出，食物就會丟失。通過試錯來應對不同情況(i)，只學會了表面聯想的動物，在遷移任務[變異]中往往表現不佳 (ii)至(iv))]，而已獲得因果理解的動物往往在第一次試驗中表現良好。
(B)用一個看不見的位移任務來測試對物體永久性的理解。在用食物做誘餌后，杯子被移動至右邊所示的最終排布。然后，動物要選擇盛有食物的杯子。當然，杯子是不透明的，但是食物的位置能夠清晰地顯示出來。能夠理解這種看不見的位移的動物在所有四種不同情況中都表現得很好，即使它以前從未見過相關的物體。
而足夠逼真的3D世界模擬，是訓練的必要條件，包括可能會破裂或被撬開的貝殼，無法擰開或撬開的瓶蓋，可撕開的包裝盒等等物體。
訓練RL智能體的3D環境
（A）DeepMind游戲室環境
（B）與前者相同，不過是智能體視角下
智能體可以在場景中移動，并推動物體。在游戲室的環境中，智能體也可以拿起物品并把它們放下，它通過成功地執行自然語言指令獲得獎勵，比如「把一個泰迪熊放在一個藍色的方塊上」。在動物AI環境中，智能體通過移動綠色球體獲得獎勵。
更為有趣的是，為了精準模仿動物與食物的因果關系。研究人員將綠色物體定位為「食物」，當被觸摸時會產生積極的獎勵，然后就像被吃掉一樣消失。
更高層次的常識：類比和隱喻，AI：我太難了
總結來說，常識是人類獨有的嗎？研究人員認為，并不是，常識是取決于一些基本概念的。比如，眼前的物體是什么？它會占據多大空間？以及因果之間的關系等等。
而且，這些理解被深深地刻進頭腦，并不會隨著時間的推移而發生改變。
然而，動物所表現出來的常識，很可能就包含對獎勵的認知。
「如何構建這樣的人工智能技術仍然有待解答。但是我們提倡一種方法，讓 RL 智能體通過與豐富的虛擬環境進行擴展交互來獲得所需的東西。」
因此，通過適當的任務訓練智能體，很可能就能為AI賦予常識。
當然，常識也不僅僅是這些。物理學只是常識的一個領域。我們忽略了一些心理學概念(如相信某件事或表達出不開心)以及相關的常識性社會概念(如與某人某物在一起，或給予某人某物)。
物理上講，上述實驗的重點是固體。更完整的還應該包括液體(水坑、溪流、瓶中的酒)、氣態物質(煙、霧、火焰)和顆粒物(土壤、沙子)，甚至包括可變形物體(海綿、紙張、繩子、衣服、樹葉、樹枝、動物的身體)和空間(洞、門道、入口)等。
從這個意義上講，常識可以看作是一組相互關聯的基本原則和抽象概念。更高更抽象的層面上，還包括類比和隱喻的運用。
「理想情況下，我們希望建立一種AI技術能夠把握這些（關于認知的）相互關聯的原則和概念，并擁有人類層面的概括和創新能力」論文的最后寫道。
看來，讓AI擁有常識終歸是一條漫漫長路。
