今年諾貝爾物理學獎由兩位人工神經網絡學者共享殊榮,分別是美國的 John Hopfield 和加拿大的 Geoffrey Hinton。諾貝爾獎委員會稱,兩位學者利用人工神經網絡實現機械學習,使用物理方法訓練神經網絡。現時大行其道的機械學習、生成式 AI 就是源自人工神經網絡技術。
兩位諾貝爾物理學獎得主自 1980 年代起利用物理學工具開發人工神經網絡,發表多項 AI 技術的基礎研究。現時人工智能技術以機械學習為主,以神經網絡為基礎,類似大腦神經結構,正是源自兩人的研究成果。
John Hopfield 是普林斯頓大學的物理學者、神經學者,在 1982 年發表聯想記憶神經網絡,即霍普菲爾德神經網絡(Hopfield neural network),結合儲存系統和二元系統的神經網絡。他利用物理學自旋系統描述網絡,每個節點都可儲存數值,透過尋找節點之間的連接值訓練作為儲存、重建資訊,當網絡運作起來,便可以找到最近似的儲存模式。兩年後,他用模擬集成電路(linear integrated circuit)實現神經網絡模型,帶起神經網絡學派,令人工智能重新獲學界重視。
Geoffrey Hinton 是其中一位基於 John Hopfield 的研究而開發神經網絡的學者,並有多項重要成果。如反向傳播演算法、對比散度演算法、玻爾茲曼機(Boltzmann machine)等,核心技術自行尋找數據的屬性,識別圖像中的特定元素或執行類似任務。隨著兩人的成果不斷發展,人工神經網絡成了深度學習(deep learning)的基礎。
另一重要研究是建立卷積神經網絡 AlexNet。在多倫多大學任教授的 Geoffrey Hinton,在 2012 年與學生 Ilya Sutskever 及 Alex Krishevsky 參加李飛飛主辦的 ImageNet 大規模視覺識別比賽(ILSVR),開發出 AlexNet 神經網絡,能夠快速處理大量數據,而且準確度明顯提升,讓 AI 具備識別物件的學習能力。
他的兩位門生後來以此技術成立創業公司 DNNresearch 繼續研究。翌年公司獲 Google 出資 4,400 萬美元收購,三人加入 Google 進一步研究技術。Ilya Sutskever 在 2015 年離開 Google 創辦 OpenAI,主導研究開發 GPT 模型。Geoffrey Hinton 在去年也離開 Google,表明要有言論自由宣揚 AI 的風險。
Geoffrey Hinton 在 2018 年與研究夥伴 Yoshua Bengio 和楊立昆(Yann LeCun)已獲頒圖靈獎,即電腦科學界的諾貝爾獎,表揚他們對深度學習的貢獻。