科學(xué)界的一個共識是：即使是最復(fù)雜的現(xiàn)代人工智能，也難以媲美人類大腦的表現(xiàn)和效率。

研究者經(jīng)常從大自然中尋找靈感，了解如何在人工智能領(lǐng)域取得進(jìn)步，例如利用進(jìn)化來合并模型、為語言模型進(jìn)化出更高效的記憶或探索人工生命的空間。雖然人工神經(jīng)網(wǎng)絡(luò)近年來讓人工智能取得了非凡的成就，但它們?nèi)匀皇瞧渖飳?yīng)物的簡化表征。所以，能否通過結(jié)合生物大腦中的特征，將人工智能的能力和效率提升到新的水平？

他們決定重新思考認(rèn)知核心的一個重要特征：時間。

剛剛，Transformer 作者之一 Llion Jones 聯(lián)合創(chuàng)立的的Sakana AI 發(fā)布了「連續(xù)思維機(jī)器」（Continuous Thought Machine，CTM），這是一種將神經(jīng)元活動同步作為其核心推理機(jī)制的人工智能模型，也可看作一種新型人工神經(jīng)網(wǎng)絡(luò)，它利用神經(jīng)元動態(tài)之間的同步來完成任務(wù)。

• 博客地址：https://sakana.ai/ctm/
• 技術(shù)報告：https://pub.sakana.ai/ctm/paper/index.html
• 代碼地址：https://github.com/SakanaAI/continuous-thought-machines/

與傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)不同，CTM 在神經(jīng)元層面使用定時信息，從而實現(xiàn)了更復(fù)雜的神經(jīng)行為和決策過程。這一創(chuàng)新使該模型能夠逐步「思考」問題，使其推理過程具有可解釋性和類人性。

研究表明，在各種任務(wù)中，機(jī)器人解決問題的能力和效率都有所提高。

Sakana AI 表示，CTM 是彌合人工神經(jīng)網(wǎng)絡(luò)與生物神經(jīng)網(wǎng)絡(luò)之間差距的重要一步，有可能開啟人工智能能力的新領(lǐng)域。

CTM 解迷宮和思考真實照片的可視化（圖片來源：Alon Cassidy）。值得注意的是，盡管 CTM 的設(shè)計并不明確，但它在迷宮中學(xué)會的解法卻非常容易解釋，而且類似于人類，可以看到它在「思考」解法時描繪出通過迷宮的路徑。對于真實圖像，雖然沒有明確的激勵措施讓它四處查看，但它會以直觀的方式查看。

研究創(chuàng)新

盡管隨著 2012 年深度學(xué)習(xí)的出現(xiàn)，人工智能的能力有了重大飛躍，但自 20 世紀(jì) 80 年代以來，人工智能模型中使用的人工神經(jīng)元基本模型在很大程度上一直沒有改變。研究人員仍然主要使用神經(jīng)元的單一輸出，這代表了神經(jīng)元的激發(fā)情況，卻忽略了神經(jīng)元相對于其他神經(jīng)元激發(fā)的精確時間。

不過，有力的證據(jù)表明，這種定時信息在生物大腦中至關(guān)重要，例如在依賴于尖峰定時的可塑性中，它是生物大腦功能的基礎(chǔ)。

在新模型中，Sakana AI 用來表示這種信息的方法是讓神經(jīng)元訪問自身的行為歷史，并學(xué)習(xí)如何利用這些信息來計算自身的下一個輸出，而不僅僅是知道自身的當(dāng)前狀態(tài)。這樣，神經(jīng)元就能根據(jù)過去不同時期的信息改變自己的行為。此外，新模型的主要行為是基于這些神經(jīng)元之間的同步，這意味著它們必須學(xué)會利用這些時間信息來協(xié)調(diào)完成任務(wù)。研究者認(rèn)為，與當(dāng)代模型中觀察到的情況相比，這將產(chǎn)生更豐富的動態(tài)空間和不同的任務(wù)解決行為。

在添加了這種定時信息后，Sakana AI 在許多任務(wù)中看到了一系列非同尋常的行為。他們看到的行為具有很強(qiáng)的可解釋性：在觀察圖像時，CTM 會小心翼翼地在場景中移動其視線，選擇關(guān)注最顯著的特征，而且它在某些任務(wù)中的表現(xiàn)有所提高。這讓研究者驚訝于神經(jīng)元活動動態(tài)中的行為多樣性。

CTM 中的神經(jīng)元動態(tài)樣本，顯示神經(jīng)元如何隨不同的輸入而變化。CTM 顯然學(xué)會了多種神經(jīng)元行為。每個神經(jīng)元（隨機(jī)顏色）如何與其他神經(jīng)元同步。研究者對其進(jìn)行測量，并將其作為 CTM 的表征。

新模型的行為基于一種新的表征：神經(jīng)元之間隨時間的同步。研究者認(rèn)為這更容易讓人聯(lián)想到生物大腦，但并非嚴(yán)格意義上的仿真。他們將由此產(chǎn)生的人工智能模型稱為「連續(xù)思考機(jī)器」，它能夠利用這種新的時間維度、豐富的神經(jīng)元動態(tài)和同步信息來「思考」任務(wù)，并在給出答案前制定計劃。

命名中使用「連續(xù)」一詞，是因為 CTM 在推理時完全在內(nèi)部「思考維度」運(yùn)行。它對所消耗的數(shù)據(jù)是異步的：它可以以相同的方式對靜態(tài)數(shù)據(jù)（如圖像）或順序數(shù)據(jù)進(jìn)行推理。研究者在大量任務(wù)中測試了這一新模型，發(fā)現(xiàn)它能夠解決各種問題，而且通常是以一種非常可解釋的方式。

研究者觀察到的神經(jīng)元動態(tài)在某種程度上更像是在真實大腦中測量到的動態(tài)，而不是更傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)，后者表現(xiàn)出的行為多樣性要少得多（請參閱下圖與經(jīng)典人工智能模型 LSTM 的比較）。CTM 顯示了以不同頻率和振幅振蕩的神經(jīng)元。有時，單個神經(jīng)元會出現(xiàn)不同頻率的振蕩，而其他神經(jīng)元只有在完成任務(wù)時才會出現(xiàn)活動。值得強(qiáng)調(diào)的是，所有這些行為都是完全突發(fā)的，并沒有設(shè)計到模型中，而是作為添加定時信息和學(xué)習(xí)解決不同任務(wù)的副作用出現(xiàn)的。

CTM 完整架構(gòu)如下圖所示，其中①為突觸模型（權(quán)重用藍(lán)線表示），建模跨神經(jīng)元交互以產(chǎn)生預(yù)激活。對于每個神經(jīng)元，②都會保留預(yù)激活的歷史記錄，其中最新的歷史記錄被 ③神經(jīng)元級模型（權(quán)重用紅線表示）用于產(chǎn)生④后激活。此外還會保留 ⑤ 后激活的歷史記錄，并用于 ⑥ 計算同步矩陣。從同步矩陣中選擇⑦神經(jīng)元對，從而產(chǎn)生⑧潛在表征。CTM 用這些表征⑨產(chǎn)生輸出并通過交叉注意力機(jī)制調(diào)制數(shù)據(jù)。調(diào)制后的數(shù)據(jù)（例如注意力輸出）將與后激活連接起來⑩，用于下一個內(nèi)部時鐘周期。

CTM 架構(gòu)的測試效果

由于新增了時間維度，CTM 的一大優(yōu)勢在于：可以觀察并直觀地看到它如何隨著時間的推移解決問題。傳統(tǒng)的 AI 系統(tǒng)可能只需通過神經(jīng)網(wǎng)絡(luò)一次性對圖像進(jìn)行分類，而 CTM 可以分多個步驟來「思考」如何解決任務(wù)。

下面展示了兩個任務(wù)：解迷宮和照片中的物體分類。

首先來看解迷宮（Maze Solving）任務(wù)。在這個任務(wù)中，CTM 會被呈現(xiàn)一個自上而下的 2D 迷宮，并被要求輸出走出迷宮所需的步驟。這種模式尤其具有挑戰(zhàn)性，因為模型必須理解迷宮構(gòu)造并規(guī)劃解決方案，而不是簡單地輸出路徑的視覺表示。

CTM 內(nèi)部連續(xù)的「思考步驟」使其能夠制定計劃，從而可以直觀地看到它在每個思考步驟中關(guān)注迷宮的哪些部分。值得注意的是，CTM 學(xué)會了一種非常類似于人類的解迷宮方法 —— 在它的注意力模式中沿著迷宮路徑前進(jìn)。

CTM 的行為模式尤其令人印象深刻，因為它自然而然地從模型架構(gòu)中涌現(xiàn)出來。研究者并沒有特意設(shè)計 CTM 來追蹤迷宮中的路徑，它通過學(xué)習(xí)自行開發(fā)展了這種方法。他們還發(fā)現(xiàn)，當(dāng)允許 CTM 進(jìn)行更多思考步驟時，它會持續(xù)沿著訓(xùn)練好的路徑前進(jìn)，這表明它確實學(xué)會了解決這個問題的通用方法。

接下來是圖像識別任務(wù)。傳統(tǒng)的圖像識別系統(tǒng)只需一步即可做出分類決策，而 CTM 則需要多個步驟來檢查圖像的不同部分，然后再做出決策。這種循序漸進(jìn)的方法不僅使人工智能的行為更易于解釋，也提高了準(zhǔn)確率：它「思考」的時間越長，答案就越準(zhǔn)確。

研究者還發(fā)現(xiàn)，這種方法使得 CTM 能夠減少在簡單圖像上思考的時間，從而節(jié)省算力。例如，在識別大猩猩時，CTM 的注意力會從眼睛轉(zhuǎn)移到鼻子，再轉(zhuǎn)移到嘴巴，這與人類的視覺注意力模式非常相似。

這些注意力模式為我們了解模型的推理過程提供了一個窗口，展示了它認(rèn)為哪些特征與分類目標(biāo)最相關(guān)。這種可解釋性不僅有助于理解模型的決策，還可能有助于識別和解決偏差或故障模式。

結(jié)論

盡管現(xiàn)代人工智能以「人工神經(jīng)網(wǎng)絡(luò)」的形式建構(gòu)在大腦之上，但即使在今天，人工智能研究與神經(jīng)科學(xué)之間的重疊仍然少得驚人。AI 研究人員選擇沿用上世紀(jì) 80 年代開發(fā)的極簡模型，并且得益于簡單易用、訓(xùn)練高效等屬性，這些模型在推動人工智能發(fā)展方面持續(xù)取得成功。

另一方面，神經(jīng)科學(xué)可以創(chuàng)建更精確的大腦模型，但其主要目的是理解大腦，而非試圖創(chuàng)建更高級的智力模型。當(dāng)然，兩者之間可能存在某種關(guān)聯(lián)。這些神經(jīng)科學(xué)模型盡管更加復(fù)雜，但性能往往仍低于當(dāng)前最先進(jìn)的 AI 模型，因此，這類模型可能在人工智能應(yīng)用領(lǐng)域缺乏進(jìn)一步研究的吸引力。

盡管如此，研究者認(rèn)為，如果現(xiàn)代人工智能在某些方面不能繼續(xù)向大腦的工作方式靠攏，我們將錯失良機(jī)。我們或許能夠通過這種方式創(chuàng)建更強(qiáng)大、更高效的模型。2012 年，得益于受大腦啟發(fā)的神經(jīng)網(wǎng)絡(luò)模型，AI 能力出現(xiàn)躍升，「深度學(xué)習(xí)革命」才出現(xiàn)。

為了繼續(xù)推動這一進(jìn)步，是否應(yīng)該繼續(xù)受到大腦的啟發(fā)呢？CTM 是研究者首次嘗試彌合這兩個領(lǐng)域之間的差距，它展現(xiàn)出一些更像大腦行為的初步跡象，同時仍然是一個可以解決重要問題的實用人工智能模型。

研究者希望能夠繼續(xù)推動模型朝著這個受自然啟發(fā)的方向發(fā)展，并探索可能出現(xiàn)的新功能。關(guān)于 CTM 在不同任務(wù)中的行為，請參閱原始技術(shù)報告。