12.31
知識(shí)分子
The Intellectual
圖源：pixabay
撰文| 張?jiān)录t
● ● ●
我在歲末聽(tīng)了2024幾位諾貝爾獎(jiǎng)得主的一場(chǎng)思想座談會(huì)，主要議題是人工智能的發(fā)展與風(fēng)險(xiǎn)，物理獲得主，人工智能教父辛頓教授在采訪中率先發(fā)言說(shuō)GPT4這類語(yǔ)言機(jī)器的知識(shí)儲(chǔ)備已超過(guò)任何個(gè)體的人類，如人類大腦的連接點(diǎn)有一百萬(wàn)個(gè)；而這種機(jī)器已有1萬(wàn)億個(gè)連接。因此我們?nèi)祟惷媾R著潛在的長(zhǎng)、短期風(fēng)險(xiǎn)，短期是人工智能將被不良行為所利用，如虛假信息，網(wǎng)絡(luò)犯罪，軍方開(kāi)發(fā)致命的自主武器等；長(zhǎng)期風(fēng)險(xiǎn)如生成式人工智能一旦在某個(gè)時(shí)刻產(chǎn)生了自主學(xué)習(xí)和決策目標(biāo)的能力，或?qū)⒁匀祟悶槟繕?biāo)等。為防止其趨勢(shì)，呼吁國(guó)際層面上的合作，研究其安全問(wèn)題。為此，幾位諾貝爾獲獎(jiǎng)?wù)邆兙鶑?qiáng)調(diào)人類自身并不完美，呼吁強(qiáng)化科學(xué)與哲學(xué)的互補(bǔ)，提升公眾對(duì)科學(xué)的信任，倫學(xué)或在人工智能時(shí)代將成為最重要的一門(mén)學(xué)科，其中哲學(xué)家的作用不可缺失。
這兩年里，我也一直在關(guān)注和閱讀這一領(lǐng)域的文章，但尚未得到關(guān)于人工智能的進(jìn)化對(duì)人類社會(huì)意味著什么的觀察，以及它將帶來(lái)特殊威脅的系統(tǒng)答案。但不可思議的是這幾天被暢銷(xiāo)書(shū)《人類簡(jiǎn)史》的作者尤瓦爾赫拉利（Yuval Noah Harari）在2024年9月出版的，并被譯成多種文字全球“熱”銷(xiāo)的《Nexus》徹底‘黏’牢了�；蛟S是職業(yè)的使然，我?guī)缀跻拆堄信d致地翻看著一書(shū)三地、不同文種、不同出版社幾乎同時(shí)出版的3個(gè)版本，詳見(jiàn)三個(gè)版本的封面（下圖）信息：
●原版書(shū)名: 《NexueA brief History of Information Netwroks from the Stone Age to AI》由美國(guó)企鵝蘭登出版商（Penguin Random House）于 2024年9月10日出版；作者尤瓦爾赫拉利（Yuval Noah Harari）于1976年出生于以色列海法，2002年在牛津大學(xué)取得博士學(xué)位，目前是耶路撒冷希伯大學(xué)歷史系講師，也是劍橋大學(xué)風(fēng)險(xiǎn)研究中心（CSER）特聘研究員。
●中文簡(jiǎn)譯書(shū)名為《智人之上：從石器時(shí)代到AI時(shí)代的信息網(wǎng)絡(luò)簡(jiǎn)史》由中信出版集團(tuán)于2024年9月1日出版；譯者林俊宏
●中文繁體譯書(shū)名為：《接》石器代到AI元；由2024年9月10日天下文化出版股份有限公司出版；譯者林俊宏
有趣的是該書(shū)的中文簡(jiǎn)、繁體的譯者同為臺(tái)灣師范大學(xué)翻譯研究所的林俊宏博士。他也是赫拉利的忠實(shí)粉絲，翻譯了赫拉利的幾部熱著，如《人大史》、《人大命》、《 21世的 21堂》、以及《人大史：知漫》《少年人的故事》幾套。
史上最大的一場(chǎng)信息革命
赫拉利不僅是暢銷(xiāo)書(shū)的作家，也是歷史學(xué)家與哲學(xué)家。
赫拉利在本書(shū)研究的一個(gè)關(guān)鍵點(diǎn)是，信息至少需要兩點(diǎn)之間的聯(lián)系，因此，信息在本質(zhì)上被組織成連接的網(wǎng)絡(luò)，一些網(wǎng)絡(luò)變得越大，越占主導(dǎo)地位，最終導(dǎo)致了機(jī)器智能和人工智能的發(fā)展。赫拉利與我們一樣，對(duì)此既敬畏又害怕。故而他寫(xiě)本書(shū)的初衷是圍繞著歷史上最大的一場(chǎng)信息革命，即生成式人工智能展開(kāi)，用意是希望人們要理解這場(chǎng)革命，必須與過(guò)去的信息革命做比較。而歷史研究的真正要點(diǎn)也并非單純看“過(guò)去”，而是看“變化”。歷史能告訴我們什么是不變的、什么是變的，以及事物是如何變化的。這不僅與信息革命相關(guān)，也與其他類型的歷史變革都息息相關(guān)。
依照赫拉利的提示，我粗讀地讀了幾個(gè)版本后，略感作者有兩條寫(xiě)作脈絡(luò)：一是以歷史視角佐證每一次新信息技術(shù)的發(fā)明總能促成重大的歷史變革，因?yàn)樾畔⒆钪匾淖饔镁褪蔷幙椌W(wǎng)絡(luò)，而非呈現(xiàn)既有現(xiàn)實(shí)。從石器時(shí)代到《圣經(jīng)》，從歐洲的獵巫行動(dòng)、現(xiàn)代的斯大林主義、納粹主義，以及今天民粹主義復(fù)蘇等，可以啟發(fā)讀者在歷史教訓(xùn)中思考信息與真相、官僚與神話、智慧與權(quán)力間的復(fù)雜關(guān)系均與信息網(wǎng)絡(luò)脫不了干系；二是為人類將與機(jī)器一起“進(jìn)化”描繪了一條探索之路，換句話說(shuō)，通過(guò)了解人工智能是如何工作的物理原理，人們可以開(kāi)發(fā)出有益的應(yīng)用，避免出現(xiàn)反烏托邦的未來(lái)。也如作者簡(jiǎn)言之：‘寫(xiě)這本書(shū)的目的是希望為人工智能革命提供一個(gè)比較準(zhǔn)確的歷史觀�！�
我自知欠缺把控全書(shū)要點(diǎn)的能力，但略有收獲的是我捕捉到作者從人工智能論及科學(xué)出版的一些觀點(diǎn)，如我在全書(shū)搜索到15處談及同行評(píng)審的期刊，若用Journal一詞搜索英文原版，那就更多了。更有意思的是這兩天我還從美國(guó)學(xué)術(shù)出版學(xué)會(huì)的學(xué)術(shù)廚房中看到了2位行業(yè)大佬將此書(shū)評(píng)為“本年度最新最好的圖書(shū)，并極盡所能地捧《Nexue》是一本了不起的綜合著作，對(duì)從事學(xué)術(shù)交流的人來(lái)說(shuō)更是一本非常重要的基礎(chǔ)著作�！盵1]
01“故事”理論的說(shuō)服力我仔細(xì)品味了一位美國(guó)同行的評(píng)論，他說(shuō)本書(shū)的“故事”理論很有說(shuō)服力。順此我很快囫圇吞棗地看了第3章，赫拉利的確提出了一個(gè)獨(dú)到觀點(diǎn)，即人類創(chuàng)造的第一個(gè)信息技術(shù)就是故事（the first information technology developed by humans, is the story），并佐證很多國(guó)家最早都出現(xiàn)在詩(shī)人的想象之中。為了驗(yàn)證他的理論，我特地查溯了公元前25世紀(jì)埃及金字塔的銘文；中國(guó)先秦時(shí)代的《詩(shī)經(jīng)》；西亞美索不達(dá)米亞的《吉爾伽美什史詩(shī)》；梵語(yǔ)文學(xué)中的《吠陀》；荷馬史詩(shī)，包括《伊利亞特》和《奧德賽》等等。不禁被作者的故事理論驚訝到人類分享故事信息有一種遺傳優(yōu)勢(shì)，不僅利于交流，也助于人類進(jìn)步，還幫助人類從家庭、部落和物種層面取得成功，讓人類成為地球上最先進(jìn)、最具統(tǒng)治力的物種。
赫拉利順次探索了從寫(xiě)作到出版，再到互聯(lián)網(wǎng)的技術(shù)是如何加速了人類交流故事的能力。然后他在故事和事實(shí)之間話鋒一轉(zhuǎn)，迅速指出一個(gè)重要的區(qū)別，即事實(shí)遠(yuǎn)不如故事那么有影響力，如我們?nèi)祟惸芴幚硎聦?shí)，但我們更能被很多故事所驅(qū)動(dòng)。如一個(gè)人可以記住整部《古蘭經(jīng)》、整部《圣經(jīng)》、數(shù)千頁(yè)的《伊利亞特》，但一般不能記住會(huì)計(jì)報(bào)告或人口普查中的幾頁(yè)表格，這本質(zhì)上是信息處理的過(guò)程，于是一種非生物的信息技術(shù)，即書(shū)面文件，到平板電腦的標(biāo)記，后來(lái)發(fā)展成為電腦領(lǐng)域，計(jì)算機(jī)比人類在數(shù)百萬(wàn)、數(shù)十億、數(shù)萬(wàn)億個(gè)數(shù)據(jù)點(diǎn)中追蹤和計(jì)算發(fā)現(xiàn)模式成功演化為現(xiàn)實(shí)。這也是他提出故事理論的哲學(xué)要點(diǎn)，即人類常常被故事所驅(qū)動(dòng)，這反映出我們?nèi)祟惖膬?nèi)在特征，如此類推，故事及我們傳達(dá)故事的方式對(duì)我們的生活比事實(shí)更有吸引力。
接著，赫拉利將信息結(jié)構(gòu)轉(zhuǎn)移到人工智能新世界，他認(rèn)為與印刷等先前的信息技術(shù)不同，生成式人工智能不僅是人類交流的被動(dòng)工具，也將成為系統(tǒng)中的全面參與者。以前，將一個(gè)文檔連接到另一個(gè)文檔的唯一方法是通過(guò)人工進(jìn)行管理。如今機(jī)器能夠創(chuàng)造內(nèi)容，吸收內(nèi)容，并對(duì)其做出反應(yīng)。然后，他將這一觀點(diǎn)擴(kuò)展到對(duì)政治與社會(huì)討論的范疇，這對(duì)媒體、治理和更廣泛的社會(huì)潛在影響是令人著迷的。
赫拉利特別指出，本書(shū)所關(guān)注的不是人工智能系統(tǒng)的積極潛力，因?yàn)橐延性S多支持者在關(guān)注人工智能系統(tǒng)對(duì)生產(chǎn)力提高的好處。國(guó)際同業(yè)人認(rèn)為本書(shū)對(duì)探索學(xué)術(shù)信息發(fā)布和人類理解新領(lǐng)域至關(guān)重要，如作者提到諸多挑戰(zhàn)的一個(gè)例子是，在公共對(duì)話的生態(tài)系統(tǒng)中，故事的力量有能力克服理性和尋求事實(shí)的探索，就如今天，當(dāng)我們看到世界各地的公眾對(duì)科學(xué)探索真理的信任度下降時(shí)，這個(gè)問(wèn)題尤為突出。隨之而來(lái)，人工智能系統(tǒng)創(chuàng)造了看似合理但缺乏事實(shí)依據(jù)的內(nèi)容與能力，或?qū)鳛楣适露a(chǎn)生更廣泛重大影響，所以說(shuō)事實(shí)與故事始終相伴而行，真不是非黑即白能說(shuō)的清的。
美國(guó)同行又說(shuō)“在一個(gè)以機(jī)器為媒介的內(nèi)容時(shí)代，反思《Nexus》中的信息框架如何影響STM學(xué)術(shù)出版區(qū)，讓我們看到了幾個(gè)相互聯(lián)系的線索。學(xué)術(shù)出版與其他領(lǐng)域的區(qū)別在于它基于科學(xué)方法追求事實(shí)記錄。學(xué)術(shù)出版探索和傳播新思想，就像科學(xué)本身一樣，尋求建立在一種內(nèi)在的自我糾正方法之上。在我們的學(xué)術(shù)出版社區(qū)中，國(guó)際出版?zhèn)惱砦瘑T會(huì)（COPE）、國(guó)際科學(xué)技術(shù)醫(yī)學(xué)學(xué)會(huì)（STM）、美國(guó)國(guó)家信息標(biāo)準(zhǔn)局（NISO）等其他機(jī)構(gòu)都在改進(jìn)撤稿流程以維護(hù)學(xué)術(shù)誠(chéng)信的努力就是例證。也如赫拉利在書(shū)中最有力地強(qiáng)調(diào)，人類在歷史進(jìn)程中不斷地治愈和反思，然后在認(rèn)識(shí)錯(cuò)誤的過(guò)程中調(diào)整路線，是人類最強(qiáng)大的能力。在他的框架中，自我修正的能力已經(jīng)并將繼續(xù)阻止災(zāi)難的發(fā)生”[1]
02科學(xué)的自我修正機(jī)制‘自我修正’ 這個(gè)短語(yǔ)在本書(shū)中或是除了信息，人工智能外，出現(xiàn)幾率很高的詞組，我查過(guò)幾個(gè)版本中都過(guò)百次，我也突然頓悟出作者的最終用意，無(wú)論人類多會(huì)講故事，歷史有多少次的無(wú)奈反省，超越人類記憶的智能儲(chǔ)備有多么能干，人類社會(huì)最終都有自我糾錯(cuò)的能力。無(wú)論是社會(huì)體制，企業(yè)文化，尤其是科學(xué)界。按照作者的說(shuō)法，科學(xué)群體是最具有糾錯(cuò)能力的群體�？茖W(xué)革命扮演的重要色就是篩選機(jī)制。如此類推，人工智能的飛躍發(fā)展，自我修正模式也在相向而行中。
作者用了大量篇幅談了科學(xué)的自我修正機(jī)制。盡管我對(duì)他的有些說(shuō)辭不太認(rèn)同，但我偏愛(ài)這個(gè)論題的闡述，如果用照我自己的話去詮釋其內(nèi)容，不如他直接引用他的原文更有深度，故此選編了幾段原文如下：
“科學(xué)要想加快步伐，科學(xué)家就得相信遠(yuǎn)方同仁發(fā)布的信息。從某種機(jī)制中都能看到，科學(xué)家雖然素未謀面，卻愿意相信彼此的研究成果。第一是各種科學(xué)協(xié)會(huì)的作用，例如1660年成立的英國(guó)皇家學(xué)會(huì)和1666年成立的法國(guó)科學(xué)院。第二是各種科學(xué)期刊的創(chuàng)辦，如《皇家學(xué)會(huì)哲學(xué)學(xué)報(bào)》（Philosophical Transactions of the Royal Society，1665）、《皇家科學(xué)院刊》（Histoire de l’ Académie Royale des Sciences，1699）。第三是多家科學(xué)出版商的出現(xiàn)，如策劃了《百科全書(shū)》（Encyclopédie，17511772）這類作品的機(jī)構(gòu)。這些機(jī)制是以實(shí)證為基礎(chǔ)來(lái)整理信息，當(dāng)一篇論文投向《皇家學(xué)會(huì)哲學(xué)學(xué)報(bào)》時(shí)，編輯主要的問(wèn)題不是會(huì)有多少人愿意付費(fèi)閱讀這篇文章，而是有什么證據(jù)來(lái)證明這是真的。
《皇家學(xué)會(huì)哲學(xué)學(xué)報(bào)》的編輯不像那些獵巫專家，法國(guó)科學(xué)院也不像天主教會(huì)，并沒(méi)有龐大的領(lǐng)地或預(yù)算。但這些科學(xué)機(jī)構(gòu)就是因?yàn)檫@種特別的原因而得到信賴，逐漸積累其影響力�？茖W(xué)機(jī)構(gòu)之所以能取得權(quán)威，是因?yàn)樗鼈冇袕?qiáng)大的自我修正機(jī)制，能夠揭露并修正自身的錯(cuò)誤�？茖W(xué)革命真正的引擎正是這些自我修正機(jī)制，而不是印刷技術(shù)！
換句話說(shuō)，人類是因?yàn)榘l(fā)現(xiàn)了自己的無(wú)知，才推動(dòng)了科學(xué)革命。那些信奉某本經(jīng)典的宗教，會(huì)覺(jué)得它們已經(jīng)取得了無(wú)懈可擊的知識(shí)來(lái)源�；酵接小妒ソ�(jīng)》，穆斯林有《古蘭經(jīng)》，印度教徒有《吠陀經(jīng)》，佛教徒有《佛經(jīng)》，但科學(xué)文化并沒(méi)有這樣的神圣經(jīng)典，也從未宣稱某位科學(xué)泰斗是絕不會(huì)犯錯(cuò)的先知、圣人或天才�？茖W(xué)革命從一開(kāi)始就不相信有絕對(duì)正確這種事，為其打造的信息網(wǎng)絡(luò)也認(rèn)為錯(cuò)誤本就不可避免。當(dāng)然，大家經(jīng)常談到哥白尼、達(dá)爾文與愛(ài)因斯坦如何有天賦，但并不會(huì)說(shuō)其中任何一位絕對(duì)完美無(wú)缺。這些科學(xué)家都犯過(guò)過(guò)錯(cuò)誤，即便是最著名的科學(xué)著作肯定也會(huì)有錯(cuò)誤與疏漏。即便是天才，也難免受到證真偏差的影響，所以并不能相信天才肯定能糾正自身的錯(cuò)誤。科學(xué)是一項(xiàng)團(tuán)隊(duì)工作，需要團(tuán)隊(duì)互相配合，不可能只靠單個(gè)科學(xué)家或者所謂絕對(duì)正確的書(shū)。當(dāng)然，機(jī)構(gòu)也可能出錯(cuò)。但科學(xué)機(jī)構(gòu)與宗教機(jī)構(gòu)的不同之處在于科學(xué)激勵(lì)懷疑與創(chuàng)新，從不激勵(lì)遵循與順從。科學(xué)制度與陰謀論的不同之處在于，科學(xué)鼓勵(lì)的是懷疑自己，而陰謀論者常常對(duì)眾人既有的共識(shí)表示懷疑，認(rèn)為他們自己的信念是毋庸置疑的，從而落入了證真偏差的陷阱。科學(xué)的標(biāo)志不僅是懷疑，而且自我懷疑，在所有科學(xué)機(jī)構(gòu)的核心都能看到強(qiáng)大的自我修正機(jī)制。科學(xué)機(jī)構(gòu)確實(shí)對(duì)某些理論（如量子力學(xué)或演化論）的正確性達(dá)成了廣泛共識(shí)，但只是因?yàn)檫@些理論成功頂住了一波波強(qiáng)力挑戰(zhàn)，而且質(zhì)疑者除了外部人士，也有機(jī)構(gòu)的內(nèi)部成員�！�
另外，在出現(xiàn)重大錯(cuò)誤與罪行時(shí)，科學(xué)機(jī)構(gòu)制度愿意承認(rèn)是制度本身出了問(wèn)題。如在19世紀(jì)、20世紀(jì)，生物學(xué)、人類學(xué)、歷史學(xué)的科學(xué)研究常常有制度性的種族與性別歧視，現(xiàn)在的大學(xué)課程、專業(yè)期刊都在誠(chéng)實(shí)地揭露這些問(wèn)題。
科學(xué)機(jī)構(gòu)的聘任與晉升，遵守的原則是“不發(fā)表就淘汰”，盡管這個(gè)默認(rèn)的規(guī)則常被詬病，但要想在優(yōu)秀的期刊上發(fā)表論文，你必須揭露現(xiàn)有理論的某種錯(cuò)誤，或是發(fā)現(xiàn)某些前輩不知道的內(nèi)容。沒(méi)有人會(huì)因?yàn)橹覍?shí)地重復(fù)過(guò)去學(xué)者的話、反對(duì)所有新的科學(xué)理論，就能拿到諾貝爾獎(jiǎng)。
科學(xué)家也是人，同樣會(huì)有各種各類偏見(jiàn)，這點(diǎn)說(shuō)得沒(méi)錯(cuò)，但因?yàn)榭茖W(xué)機(jī)構(gòu)制度擁有自我修正機(jī)制，從而讓這些偏見(jiàn)得以克服。只要能提供充分的實(shí)證證據(jù)，常常只需要數(shù)十年，就能讓非正統(tǒng)理論推翻傳統(tǒng)概念，成為新的共識(shí)。（例如：謝赫特曼因?yàn)樗陌l(fā)現(xiàn)榮獲2011年諾貝爾化學(xué)獎(jiǎng)。盡管他的發(fā)現(xiàn)極具爭(zhēng)議，但最終迫使科學(xué)家重新思考他們對(duì)于物質(zhì)本質(zhì)的看法�！保�
03我們需要時(shí)間學(xué)習(xí)年末看到美國(guó)科學(xué)和技術(shù)政策辦公室（OSTP）提出2025年7項(xiàng)優(yōu)先研究事項(xiàng)（Multi-Agency Priority Guidance），第一條就是‘推進(jìn)可信賴的人工智能（AI）技術(shù)，保護(hù)人類的權(quán)利和利益，安全，并利用它來(lái)加速國(guó)家的進(jìn)步�！@也旁證我們與美國(guó)的科技競(jìng)爭(zhēng)中人工智能的研究已在首選中。
如本文開(kāi)篇所述，如今全球科技界都把生成式人工智能的發(fā)展作為第一議題來(lái)討論。如此聯(lián)想今年5月看到《科學(xué)美國(guó)人》的編輯克里斯蒂Aschwanden主持的一場(chǎng)討論“不確定性是科學(xué)的超能力（Uncertainty Is Science’s Superpower）[2]。直覺(jué)作者赫拉利也正是從GPT的不確定性中找到了寫(xiě)作《Nexus》的靈感和創(chuàng)造力。醉翁之意是啟發(fā)我們從歷史到哲學(xué)，最后落腳在科學(xué)是一個(gè)強(qiáng)大的工具，幫助我們理解周?chē)澜鐝?fù)雜性，它在做決定時(shí)非常有用。如果我們?cè)侥芙邮芩锌茖W(xué)背后的不確定性，如面臨生成式人工智能或某天將超越我們?nèi)祟惖囊庾R(shí)，我們就越能更好地面對(duì)這種不確定性，根據(jù)新證據(jù)更新我們的信念。
所有新東西都是從一個(gè)未知的地方起始，研究人員，包括科學(xué)出版人員應(yīng)該知道如何駕馭這些不確定性。例如《生物設(shè)計(jì)與制造》2024年8月在日本東京大學(xué)召開(kāi)的國(guó)際學(xué)術(shù)年會(huì)上，主編崔占峰院士直接在大會(huì)報(bào)告中向?qū)W者與期刊拋出了2個(gè)尖銳的問(wèn)題“研究和期刊的發(fā)文缺少了什么（What is missing BDM？）；人工智能和分布式生物制造是否為先進(jìn)制造的一部分？（Intelligent and distributed bio-manufacturing, part of Advanced Manufacturing？）這或許就是科學(xué)家與時(shí)俱進(jìn)，反向思維的模式，即人工智能的知識(shí)漸進(jìn)中總要受到新證據(jù)的影響，但我們可以中級(jí)的理解去嘗試做很多事情。
總之，我們不是無(wú)所不知，以開(kāi)放的心態(tài)，嘗試中可以幫助我們弄清楚一些問(wèn)題。
人工智能對(duì)生產(chǎn)力的提高已是毋庸置疑，而符合人類社會(huì)價(jià)值觀與利益的人工智能時(shí)代呼吁健全倫理學(xué)這門(mén)最重要的學(xué)問(wèn)。
參考文獻(xiàn)：
[1]https://scholarlykitchen.sspnet.org/2024/12/04/chefs-selections-best-books-read-and-favorite-cultural-creations-during-2024-part-3/
[2]https://www.scientificamerican.com/author/christie-aschwanden/
作者簡(jiǎn)介：
張?jiān)录t，浙江大學(xué)《生物設(shè)計(jì)與制造》負(fù)責(zé)人
