真 · 神經網絡發明人福島邦彥獲獎,Schmidhuber、李飛飛點贊

機器之心報道

機器之心編輯部

近日,福島邦彥(Kunihiko Fukushima)獲得 2021 年度鮑爾獎「Bower Award and Prize for Achievement in Science」的消息在學界引來關注。

獲獎理由:通過發明第一個深度卷積神經網絡「Neocognitron」將神經科學原理應用於工程的開創性研究,這是對人工智能發展的關鍵貢獻。

鮑爾獎是美國獎金額度最高的科技獎,由富蘭克林基金會頒發,每人可獲得 25 萬美元及金質獎章。該獎項在 1994 年曾頒發給楊振寧。在獲獎後,福島邦彥躋身一衆著名科學家和諾貝爾獎獲得者行列。

2021 年度的鮑爾獎結果在今年 4 月就已公佈,最近引起熱議的原因是——在本次富蘭克林研究所鮑爾獎的頒獎典禮之際,Jürgen Schmidhuber 公開發表了一份賀詞:

「毫無疑問,福島邦彥值得鮑爾獎這份榮譽,基於他在人工神經網絡方面的巨大貢獻。」

這段 20 分鐘左右的視頻發佈在 Schmidhuber 開通的個人 YouTube 頻道上,事實上,該頻道目前僅有這一個視頻。

「在深度學習的這段歷史中,每個人都在使用這種 CNN 架構的變體進行計算機視覺和其他應用研究。」

Schmidhuber 提到,第一個使用卷積和反向傳播的人是 1987 年的 Alex Waibel(大約在視頻的 5:20 分處)。在視頻的最後,他還補充道:「我應該提到的一件事是,福島邦彥的提名人要求我提供一份支持內容,我告訴他們自己可能存在利益衝突,因爲我自己也是這個獎項的被提名者。提名人表示並不介意。」

此外 Schmidhuber 的態度也是很耐人尋味的,有人這樣理解:

斯坦福大學教授李飛飛也對福島的獲獎表示了祝賀,她說道:「對於我們這些幾十年前學習計算機視覺和神經網絡的人來說,福島邦彥的 neocognitron 理論打開了對象識別神奇世界的大門。這是一個傑作!」

卷積神經網絡 CNN 的奠基人

卷積神經網絡的發展,最早可以追溯到 1962 年,Hubel 和 Wiesel 對貓大腦中的視覺系統的研究。

20 世紀 60 年代初,David Hubel 和 Torsten Wiesel 從約翰霍普金斯大學和 Steven Kuffler 一起來到哈佛大學,在哈佛醫學院建立了神經生物學系。他們們在論文《Receptive fields, binocular interaction and functional architecture in the cat's visual cortex》中提出了 Receptive fields 的概念,因其在視覺系統中信息處理方面的傑出貢獻,他們在 1981 年獲得了諾貝爾生理學或醫學獎。

Hubel 和 Wiesel 記錄了貓腦中各個神經元的電活動。他們使用幻燈機向貓展示特定的模式,並指出特定的模式刺激了大腦特定部位的活動。這種單神經元記錄是當時的一項創新,由 Hubel 早期發明的特殊記錄電極實現,他們通過這些實驗系統地創建了視覺皮層的地圖。

而將動物的神經網絡複製到計算機上,是福島邦彥最先做到的。1980 年,日本科學家福島邦彥在論文《Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position》提出了一個包含卷積層、池化層的神經網絡結構。他的工作被人們評價爲深度神經網絡基本結構的開創性探索,是當前人工智能領域的核心技術。

福島邦彥曾在大阪大學、電氣通信大學、東京工科大學、關西大學任教,現在已經從大學退休,被「Fuzzy Logic Systems Institute」聘爲特別研究員。除了後來發展出卷積神經網絡的 Neurocognition(認知控制),現在深度學習中開始熱鬧起來的 Attention(注意力)網絡背後也有他的身影,他也在上世紀 80 年就提出過 Attention 概念和網絡。

福島邦彥是日本神經網絡協會 (JNNS) 的創始主席。此外,他還是國際神經網絡協會 (INNS) 董事會的創始成員和亞太神經網絡大會 (APNNA) 的主席。

福島邦彥還獲得過許多獎項,他曾獲得過 IEICE 成就獎和優秀論文獎、IEEE 神經網絡先驅獎、APNNA 傑出成就獎、JNNS 優秀論文獎和 INNS Helmholtz 獎等各種獎項。

在前人的基礎上,Yoshua Bengio、Geoffrey Hinton、Yann LeCun 等人自 20 世紀 80 年代開始提倡使用機器學習方法進行人工智能研究,提出了「人工神經網絡」(artificial neural network),爲機器學習研究奠定了基石。

近年來,多種因素導致計算機視覺、語音識別和機器翻譯等技術出現了跳躍式發展,人工智能已經成爲整個科學界發展最快的領域之一。

福島邦彥 1971 年在測試電子視網膜。

下次你用人臉識別解鎖手機時,可以感謝一下福島邦彥的貢獻。

參考內容:

https://www.youtube.com/watch?v=ysOw6lNWx2o&feature=youtu.be

https://www.reddit.com/r/MachineLearning/comments/q76js4/schmidhuber_pays_tribute_to_kunihiko_fukushima/

https://www.nhk.or.jp/strl/english/publica/giken_dayori/194/1.html