真 · 神經(jīng)網(wǎng)絡(luò)發(fā)明人福島邦彥獲獎,Schmidhuber、李飛飛點贊
近日,福島邦彥(Kunihiko Fukushima)獲得 2021 年度鮑爾獎「Bower Award and Prize for Achievement in Science」的消息在學(xué)界引來關(guān)注。

獲獎理由:通過發(fā)明第一個深度卷積神經(jīng)網(wǎng)絡(luò)「Neocognitron」將神經(jīng)科學(xué)原理應(yīng)用于工程的開創(chuàng)性研究,這是對人工智能發(fā)展的關(guān)鍵貢獻(xiàn)。
鮑爾獎是美國獎金額度最高的科技獎,由富蘭克林基金會頒發(fā),每人可獲得 25 萬美元及金質(zhì)獎?wù)隆T摢勴椩?1994 年曾頒發(fā)給楊振寧。在獲獎后,福島邦彥躋身一眾著名科學(xué)家和諾貝爾獎獲得者行列。
2021 年度的鮑爾獎結(jié)果在今年 4 月就已公布,最近引起熱議的原因是——在本次富蘭克林研究所鮑爾獎的頒獎典禮之際,Jürgen Schmidhuber 公開發(fā)表了一份賀詞:
「毫無疑問,福島邦彥值得鮑爾獎這份榮譽(yù),基于他在人工神經(jīng)網(wǎng)絡(luò)方面的巨大貢獻(xiàn)。」
這段 20 分鐘左右的視頻發(fā)布在 Schmidhuber 開通的個人 YouTube 頻道上,事實上,該頻道目前僅有這一個視頻。

「在深度學(xué)習(xí)的這段歷史中,每個人都在使用這種 CNN 架構(gòu)的變體進(jìn)行計算機(jī)視覺和其他應(yīng)用研究。」
Schmidhuber 提到,第一個使用卷積和反向傳播的人是 1987 年的 Alex Waibel(大約在視頻的 5:20 分處)。在視頻的最后,他還補(bǔ)充道:「我應(yīng)該提到的一件事是,福島邦彥的提名人要求我提供一份支持內(nèi)容,我告訴他們自己可能存在利益沖突,因為我自己也是這個獎項的被提名者。提名人表示并不介意。」
此外 Schmidhuber 的態(tài)度也是很耐人尋味的,有人這樣理解:

我不知道算是好笑還是悲傷。Schmidhuber 找到了一種被動攻擊的方式,通過祝賀 / 贊揚(yáng)卷積神經(jīng)網(wǎng)絡(luò)的先驅(qū)來批評他人。
不管意圖如何,福島絕對值得更多的贊譽(yù)。
斯坦福大學(xué)教授李飛飛也對福島的獲獎表示了祝賀,她說道:「對于我們這些幾十年前學(xué)習(xí)計算機(jī)視覺和神經(jīng)網(wǎng)絡(luò)的人來說,福島邦彥的 neocognitron 理論打開了對象識別神奇世界的大門。這是一個杰作!」

卷積神經(jīng)網(wǎng)絡(luò) CNN 的奠基人
卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展,最早可以追溯到 1962 年,Hubel 和 Wiesel 對貓大腦中的視覺系統(tǒng)的研究。
20 世紀(jì) 60 年代初,David Hubel 和 Torsten Wiesel 從約翰霍普金斯大學(xué)和 Steven Kuffler 一起來到哈佛大學(xué),在哈佛醫(yī)學(xué)院建立了神經(jīng)生物學(xué)系。他們們在論文《Receptive fields, binocular interaction and functional architecture in the cat's visual cortex》中提出了 Receptive fields 的概念,因其在視覺系統(tǒng)中信息處理方面的杰出貢獻(xiàn),他們在 1981 年獲得了諾貝爾生理學(xué)或醫(yī)學(xué)獎。
Hubel 和 Wiesel 記錄了貓腦中各個神經(jīng)元的電活動。他們使用幻燈機(jī)向貓展示特定的模式,并指出特定的模式刺激了大腦特定部位的活動。這種單神經(jīng)元記錄是當(dāng)時的一項創(chuàng)新,由 Hubel 早期發(fā)明的特殊記錄電極實現(xiàn),他們通過這些實驗系統(tǒng)地創(chuàng)建了視覺皮層的地圖。
而將動物的神經(jīng)網(wǎng)絡(luò)復(fù)制到計算機(jī)上,是福島邦彥最先做到的。1980 年,日本科學(xué)家福島邦彥在論文《Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position》提出了一個包含卷積層、池化層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。他的工作被人們評價為深度神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)的開創(chuàng)性探索,是當(dāng)前人工智能領(lǐng)域的核心技術(shù)。
福島邦彥曾在大阪大學(xué)、電氣通信大學(xué)、東京工科大學(xué)、關(guān)西大學(xué)任教,現(xiàn)在已經(jīng)從大學(xué)退休,被「Fuzzy Logic Systems Institute」聘為特別研究員。除了后來發(fā)展出卷積神經(jīng)網(wǎng)絡(luò)的 Neurocognition(認(rèn)知控制),現(xiàn)在深度學(xué)習(xí)中開始熱鬧起來的 Attention(注意力)網(wǎng)絡(luò)背后也有他的身影,他也在上世紀(jì) 80 年就提出過 Attention 概念和網(wǎng)絡(luò)。
福島邦彥是日本神經(jīng)網(wǎng)絡(luò)協(xié)會 (JNNS) 的創(chuàng)始主席。此外,他還是國際神經(jīng)網(wǎng)絡(luò)協(xié)會 (INNS) 董事會的創(chuàng)始成員和亞太神經(jīng)網(wǎng)絡(luò)大會 (APNNA) 的主席。
福島邦彥還獲得過許多獎項,他曾獲得過 IEICE 成就獎和優(yōu)秀論文獎、IEEE 神經(jīng)網(wǎng)絡(luò)先驅(qū)獎、APNNA 杰出成就獎、JNNS 優(yōu)秀論文獎和 INNS Helmholtz 獎等各種獎項。
在前人的基礎(chǔ)上,Yoshua Bengio、Geoffrey Hinton、Yann LeCun 等人自 20 世紀(jì) 80 年代開始提倡使用機(jī)器學(xué)習(xí)方法進(jìn)行人工智能研究,提出了「人工神經(jīng)網(wǎng)絡(luò)」(artificial neural network),為機(jī)器學(xué)習(xí)研究奠定了基石。
近年來,多種因素導(dǎo)致計算機(jī)視覺、語音識別和機(jī)器翻譯等技術(shù)出現(xiàn)了跳躍式發(fā)展,人工智能已經(jīng)成為整個科學(xué)界發(fā)展最快的領(lǐng)域之一。
福島邦彥 1971 年在測試電子視網(wǎng)膜。
下次你用人臉識別解鎖手機(jī)時,可以感謝一下福島邦彥的貢獻(xiàn)。
























