劃重點(diǎn)
012024年諾貝爾物理學(xué)獎(jiǎng)授予美國(guó)普林斯頓大學(xué)教授約翰霍普菲爾德和加拿大多倫多大學(xué)教授杰弗里辛頓，以表彰他們對(duì)人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明。
02霍普菲爾德發(fā)明了聯(lián)想記憶網(wǎng)絡(luò)，能夠存儲(chǔ)包括圖像在內(nèi)的多種模式，而辛頓發(fā)明了玻爾茲曼機(jī)，這是一種基于統(tǒng)計(jì)物理學(xué)的機(jī)器學(xué)習(xí)算法。
03由于霍普菲爾德和辛頓的工作，機(jī)器學(xué)習(xí)方法得以發(fā)展，如今已發(fā)展成由許多層構(gòu)成的深度神經(jīng)網(wǎng)絡(luò)，訓(xùn)練方式稱為深度學(xué)習(xí)。
04諾貝爾物理學(xué)獎(jiǎng)委員會(huì)主席表示，獲獎(jiǎng)?wù)叩墓ぷ饕呀?jīng)為我們帶來(lái)極大的益處，物理學(xué)為機(jī)器學(xué)習(xí)的發(fā)展提供了工具，反過(guò)來(lái)物理學(xué)又從人工神經(jīng)網(wǎng)絡(luò)中受益。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
今日大熱的人工智能在歷史上曾經(jīng)歷過(guò)起起落落。進(jìn)入21世紀(jì)以來(lái)，新一波人工智能浪潮襲來(lái)，利用人工神經(jīng)網(wǎng)絡(luò)，機(jī)器學(xué)習(xí)的發(fā)展呈現(xiàn)爆發(fā)性增長(zhǎng)，而這正得益于2024年的兩位諾貝爾物理學(xué)獎(jiǎng)得主從20世紀(jì)80年代起所進(jìn)行的工作。
2024年10月8日，瑞典皇家科學(xué)院宣布，2024年諾貝爾物理學(xué)獎(jiǎng)授予美國(guó)普林斯頓大學(xué)教授約翰霍普菲爾德（John J. Hopfield）和加拿大多倫多大學(xué)教授杰弗里辛頓（Geoffrey E. Hinton），以表彰他們對(duì)通過(guò)人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明所作出的貢獻(xiàn)。
約翰霍普菲爾德（左）和杰弗里辛頓（右）（圖片來(lái)源：諾貝爾獎(jiǎng)官方網(wǎng)站）
他們使用物理學(xué)工具構(gòu)建了方法，為當(dāng)今強(qiáng)大的機(jī)器學(xué)習(xí)奠定了基�；羝辗茽柕聞�(chuàng)建了一個(gè)結(jié)構(gòu)，可以用來(lái)存儲(chǔ)和重建數(shù)據(jù)中的圖像及其他類型的模式。辛頓發(fā)明了一種方法，可以自主查找數(shù)據(jù)中的屬性，從而執(zhí)行諸如識(shí)別圖片中的特定元素等任務(wù)。
向大腦學(xué)習(xí)當(dāng)我們談?wù)撊斯ぶ悄軙r(shí)，我們通常指的是使用人工神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)。人工神經(jīng)網(wǎng)絡(luò)的靈感來(lái)自于人類的大腦。大腦的神經(jīng)網(wǎng)絡(luò)由數(shù)十億個(gè)神經(jīng)元通過(guò)突觸相連，當(dāng)我們學(xué)習(xí)事物時(shí)，一些神經(jīng)元之間的連接會(huì)變強(qiáng)，而其他的連接會(huì)變?nèi)�。在人工神�?jīng)網(wǎng)絡(luò)中，大腦的神經(jīng)元由具有不同值的節(jié)點(diǎn)表示，這些節(jié)點(diǎn)通過(guò)連接相互影響，這些連接就像突觸一樣，可以變得更強(qiáng)或更弱。
20世紀(jì)60年代末，一些理論研究結(jié)果使研究人員懷疑人工神經(jīng)網(wǎng)絡(luò)永遠(yuǎn)不會(huì)有任何實(shí)際用途，人工智能在經(jīng)歷第一次浪潮后也在此時(shí)逐漸進(jìn)入寒冬。但到了1980年代，包括今年的兩位諾貝爾物理學(xué)獎(jiǎng)得主所作出的貢獻(xiàn)在內(nèi)，一批新的想法重新點(diǎn)燃了人們對(duì)人工神經(jīng)網(wǎng)絡(luò)的熱情。
霍普菲爾德的聯(lián)想記憶1933年，霍普菲爾德出生于美國(guó)芝加哥。1958年，他在美國(guó)康奈爾大學(xué)獲得博士學(xué)位�；羝辗茽柕略�(jīng)利用自己的物理學(xué)背景來(lái)探索分子生物學(xué)的理論問(wèn)題。后來(lái)，他偶然間接觸到大腦結(jié)構(gòu)的研究，開(kāi)始了對(duì)神經(jīng)網(wǎng)絡(luò)的思考。
1980年，霍普菲爾德離開(kāi)普林斯頓大學(xué)，加入加州理工學(xué)院。1982年，他發(fā)明了一個(gè)革命性的網(wǎng)絡(luò)結(jié)構(gòu)，稱作“霍普菲爾德網(wǎng)絡(luò)”。這個(gè)網(wǎng)絡(luò)能夠存儲(chǔ)包括圖像在內(nèi)的多種模式，特別是能在接受不完整或有噪聲的輸入時(shí)，重構(gòu)出最相似的存儲(chǔ)模式，因此適用于處理有噪聲或者部分缺失的數(shù)據(jù)。這與人類的大腦在試圖記住一個(gè)詞匯時(shí)，通過(guò)搜索類似詞匯找到正確詞匯的過(guò)程異曲同工。
在創(chuàng)建這個(gè)具有節(jié)點(diǎn)和連接的網(wǎng)絡(luò)模型的過(guò)程中，霍普菲爾德受到了物理學(xué)中描述磁性材料的理論的啟發(fā)。磁性材料的原子自旋使得每個(gè)原子都是一個(gè)微小的磁鐵，相鄰原子的自旋能夠相互影響。而霍普菲爾德用一個(gè)屬性來(lái)描述網(wǎng)絡(luò)的整體狀態(tài)，這一對(duì)應(yīng)于自旋系統(tǒng)的能量，他稱之為“能量景觀”。
他把搜索網(wǎng)絡(luò)以保存狀態(tài)比作一個(gè)在山峰和山谷中滾動(dòng)的球，摩擦?xí)䴗p緩它的運(yùn)動(dòng)。如果球被放在一個(gè)特定的位置，它會(huì)滾到最近的山谷中并停在那里。如果網(wǎng)絡(luò)被給出一個(gè)接近保存模式的模式，小球就會(huì)以同樣的方式繼續(xù)前進(jìn)，直到它停在能量景觀的山谷底部，也就是找到記憶中最接近的模式。
辛頓的玻爾茲曼機(jī)當(dāng)霍普菲爾德發(fā)表關(guān)于聯(lián)想記憶的文章時(shí)，另一位獲獎(jiǎng)?wù)咝令D正在美國(guó)卡內(nèi)基梅隆大學(xué)工作。1947年，辛頓出生于英國(guó)倫敦。1970年，他獲得英國(guó)劍橋大學(xué)實(shí)驗(yàn)心理學(xué)學(xué)士學(xué)位。1978年，他在英國(guó)愛(ài)丁堡大學(xué)獲得人工智能學(xué)博士學(xué)位。在求學(xué)過(guò)程中，辛頓就想知道機(jī)器是否可以用類似人類的方式學(xué)習(xí)處理模式，找到自己的類別來(lái)排序和解釋信息。
辛頓在自己的研究中也借鑒了來(lái)自物理學(xué)的方法，統(tǒng)計(jì)物理學(xué)激發(fā)了他的靈感。1985年，辛頓和合作者以霍普菲爾德網(wǎng)絡(luò)為基礎(chǔ)，提出了玻爾茲曼機(jī)，這一理論正得名于19世紀(jì)著名的統(tǒng)計(jì)物理學(xué)家路德維希玻爾茲曼（Ludwig Boltzmann）。
玻爾茲曼機(jī)通常使用兩種不同類型的節(jié)點(diǎn)：信息被輸入到一組稱作可見(jiàn)節(jié)點(diǎn)的節(jié)點(diǎn)中，它們位于可見(jiàn)層；其他節(jié)點(diǎn)則形成了隱藏層，能夠影響整個(gè)網(wǎng)絡(luò)的功能。這種結(jié)構(gòu)不僅允許網(wǎng)絡(luò)識(shí)別已知的模式，還能生成新的、相似的模式。更重要的是，玻爾茲曼機(jī)可以通過(guò)例子而不是指令來(lái)學(xué)習(xí)。訓(xùn)練有素的玻爾茲曼機(jī)可以識(shí)別它以前從未見(jiàn)過(guò)的信息中的熟悉特征，這就像如果我們看到一個(gè)朋友的兄弟姐妹，也可以一眼看出他們是親戚。
雖然玻爾茲曼機(jī)的原始形式相當(dāng)?shù)托�，需要很長(zhǎng)時(shí)間才能找到解決方案，但是在辛頓和一些人的努力下，特別是在辛頓和同事于2006年開(kāi)發(fā)出一種革命性的方法后，玻爾茲曼機(jī)的功能變得越來(lái)越強(qiáng)大，從而推動(dòng)了機(jī)器學(xué)習(xí)的爆炸式發(fā)展。
機(jī)器學(xué)習(xí)的今天和未來(lái)從2010年開(kāi)始，機(jī)器學(xué)習(xí)迎來(lái)了一場(chǎng)革命。我們擁有的大量數(shù)據(jù)可以用來(lái)訓(xùn)練網(wǎng)絡(luò)，與此同時(shí)計(jì)算能力也發(fā)生了翻天覆地的變化。如今，人工神經(jīng)網(wǎng)絡(luò)已經(jīng)發(fā)展成由許多層構(gòu)成的深度神經(jīng)網(wǎng)絡(luò)，訓(xùn)練它們的方式稱為深度學(xué)習(xí)，這些都是當(dāng)下的熱門科技詞匯。
1982年，在霍普菲爾德最早提出他的網(wǎng)絡(luò)的時(shí)候，那個(gè)網(wǎng)絡(luò)只有30個(gè)節(jié)點(diǎn)，在所有節(jié)點(diǎn)相互連接的情況下有435個(gè)連接，總共只有不到500個(gè)需要跟蹤的參數(shù)。有100個(gè)節(jié)點(diǎn)的網(wǎng)絡(luò)對(duì)他當(dāng)時(shí)使用的計(jì)算機(jī)就已經(jīng)太過(guò)復(fù)雜，因此他不得不放棄嘗試。而今天我們使用的大語(yǔ)言模型所包含的參數(shù)超過(guò)10000億個(gè)。
霍普菲爾德和辛頓的工作奠定了機(jī)器學(xué)習(xí)的基礎(chǔ)，在獲得今年的諾貝爾物理學(xué)獎(jiǎng)之前，二人就已經(jīng)獲得了廣泛贊譽(yù)。2018年，辛頓因?yàn)樵谏疃葘W(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)方面的卓越貢獻(xiàn)而獲得了計(jì)算機(jī)領(lǐng)域內(nèi)的最高獎(jiǎng)圖靈獎(jiǎng)�；羝辗茽柕略@得過(guò)狄拉克獎(jiǎng)、玻爾茲曼獎(jiǎng)等物理學(xué)界的重要獎(jiǎng)項(xiàng)。
諾貝爾物理學(xué)獎(jiǎng)委員會(huì)主席艾倫穆恩思（Ellen Moons）在諾貝爾獎(jiǎng)官方網(wǎng)站上表示：“獲獎(jiǎng)?wù)叩墓ぷ饕呀?jīng)為我們帶來(lái)極大的益處。在物理學(xué)中，我們?cè)趶V泛的領(lǐng)域內(nèi)使用人工神經(jīng)網(wǎng)絡(luò)，例如開(kāi)發(fā)具有特定特性的新材料。”
物理學(xué)為機(jī)器學(xué)習(xí)的發(fā)展提供了工具，反過(guò)來(lái)正如穆恩思所說(shuō)，物理學(xué)又從人工神經(jīng)網(wǎng)絡(luò)中受益。觀察此前的諾貝爾物理學(xué)獎(jiǎng)，我們可以發(fā)現(xiàn)機(jī)器學(xué)習(xí)的應(yīng)用，包括篩選和處理發(fā)現(xiàn)希格斯玻色子所需的大量數(shù)據(jù)、減少來(lái)自碰撞黑洞的引力波測(cè)量中的噪聲以及更有效地尋找系外行星。而機(jī)器學(xué)習(xí)在科學(xué)研究中更廣泛的應(yīng)用包括在預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)和設(shè)計(jì)新材料方面發(fā)揮重要作用。
2024年諾貝爾物理學(xué)獎(jiǎng)獎(jiǎng)勵(lì)兩位人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域內(nèi)的先驅(qū)，展示了物理學(xué)思想會(huì)對(duì)其他領(lǐng)域的發(fā)展帶來(lái)多么巨大的影響。人工智能是我們這個(gè)時(shí)代的主題詞，將會(huì)深刻改變技術(shù)、產(chǎn)業(yè)和我們的生活。今年的諾貝爾物理學(xué)獎(jiǎng)也將成為人工智能發(fā)展歷史上的一個(gè)里程碑，鼓舞更多科學(xué)家以跨學(xué)科思維去解決人類面對(duì)的諸多挑戰(zhàn)。
南方周末特約撰稿 鞠強(qiáng)
責(zé)編 朱力遠(yuǎn)
