一塊GPU模擬猴子大腦，普通臺式機變超算，英國大學研究登上Nature子刊
用計算機模擬動物大腦通常需要一臺強大、昂貴的超級計算機，但最近的一項嘗試表明，安裝了高性能 GPU 的臺式機也能完成這項工作，而且模擬速度比超級計算機還快。
這項研究來自英國薩塞克斯大學（University of Sussex），研究者利用一臺搭載了 NVIDIA Titan RTX GPU 的臺式 PC 模擬了猴子大腦視覺皮層的一個大型模型。這個模型包含 4.13 × 10^6 個神經元和 24.2 × 10^9 個突觸。實驗所用的 GPU 內存是 24GB，價值 2452 英鎊（約合 21780 元）。借助研究者提出的新方法，他們用單個 GPU 進行的模擬比超級計算機速度還快，而且價格要便宜得多。
長期以來，人們一直利用 GPU 來加速 AI 模型的計算，但在一個普通顯卡上運行如此之大的模型還是第一次。
通常來說，這種級別的大腦模擬需要超級計算機來提供強大的內存，但薩塞克斯大學的研究者提出了一種更加高效的技術，可以大幅降低模擬過程中所需存儲的數據量。他們的方法被稱為「程序性連接（procedural connectivity）」，相關研究發表在 Nature 新子刊——《Nature Computational Science》上。這份子刊于 2021 年 1 月啟動，主要發表與計算技術和數學模型開發及使用相關的研究，以及它們在一系列科學學科（包括但不限于生物信息學、化學信息學、地理信息學、計算物理學和宇宙學、材料科學和城市科學）領域的應用。
論文鏈接：https://www.nature.com/articles/s43588-020-00022-7?utm_medium
什么是「程序性連接」？
模擬大腦通常需要一個脈沖神經網絡，這是一種特殊的 AI 系統，可以模擬大腦的行為，神經元通過一系列脈沖信號進行通信。
為了準確地預測脈沖如何影響神經元，描述「哪些神經元通過突觸連接在一起、如何連接」的信息通常在運行模擬之前生成和存儲。然而，由于神經元只是周期性地產生脈沖，將如此大量的數據持續保存在內存中是非常低效的。
為了解決這一問題，研究者提出了「程序性連接」的概念。「程序性連接」可以讓研究者根據需要實時生成與神經元連接相關的數據，而不是在內存中存儲數據并從中檢索信息。這完全消除了在內存中存儲連接數據的必要性。
「這些實驗通常需要你提前生成所有連接數據，并用這些數據來填滿內存，而我們的方法就是要避免這一過程。」論文作者 James Knight 表示。
他還補充說，「使用我們的方法，每次神經元發出脈沖時，連接的細節就會重新生成。」「我們利用 GPU 的能力，在每次脈沖發出時重新實時計算連接。」
也就是說，借助 GPU 的強大計算能力，當神經元脈沖被激發時，脈沖神經網絡可以「程序性」地生成連接數據。
這一方法建立美國學者 Eugene Izhikevich 在 2006 年提出的研究基礎上，但彼時的計算機速度太慢，還不足以讓方法推廣應用。現在，GPU 的算力是 15 年前的 2000 倍，對于「脈沖神經網絡」來說，研究時機已經成熟。
一臺電腦 + 一塊 GPU，或許就能復現大腦模擬論文
事實上，這項研究的結果不僅能夠與當前最快的超級計算機相媲美，甚至還更快。在靜息態下，新方法模擬生物體的一秒只需要 8.4 分鐘，比之前的超級計算機模擬節省了多達 35% 的時間（一個例子就是 2018 年在 IBM Blue Gene/Q 上運行的模擬）。
如同 Knight 介紹的那樣，這是因為 IBM 的設備是由 1000 個連接在一個房間里的計算節點組成的。「無論系統多么復雜，節點之間仍然存在一些延遲。模型隔得越遠，它就會越慢，而我們的模型速度可以快很多個量級。」
James Knight 和 Thomas Nowotny。
除了提高實驗速度之外，研究者還希望通過這種方法降低此類大型生物模擬研究的硬件門檻。在大腦模擬的研究領域，模型大小很可能以萬億字節計，但超級計算機只是少數研究團隊的特權。
還有一點意義是：Knight 及其團隊的研究可以讓神經科學和人工智能研究者在他們的本地工作站上模擬大腦回路，同時也可以讓學術界以外的人把他們的游戲本變為一臺可以運行大型神經網絡的計算機。
Knight 表示：「 Nature Computational Science 的審稿人在自己的計算機上試驗了這項研究。」因此，如果你有一臺電腦和合適的 GPU，或許也可以查看論文中關于復現的說明部分，并上手一試。
程序性連接非常適合用于大腦模擬實驗的脈沖神經網絡，但 Knight 認為，隨著類腦機器學習取得更多進展，更多的人工智能應用也將出現。
研究團隊希望這種辦法能夠助力于科學研究，從而大大降低研究哺乳動物大腦工作方式和研究神經系統疾病的成本。大腦模擬也是助力阿爾茨海默氏癥和帕金森氏癥的關鍵工具。
無論是繪制哺乳動物大腦的行為圖，還是開發更好的語音識別工具，神經網絡正在受到學界和業界更多的關注。現在，只要有一塊 GPU，誰又能說臥室不可以是夢開始的地方呢？
