觀察如何從信息的流動和聯(lián)結(jié)的視角去思考未來？為什么秩序與真相經(jīng)常魚和熊掌不可兼得？為什么更多的信息并不會自動指向真相/真理？AI作為會思考和能行動的信息創(chuàng)造者和載體，可能給人類歷史帶來哪些重大變革？赫拉利在《智人之上》中對AI時代提出了三大問題。
吳 晨
圖片來源：東方IC
AI時代的三大問題
文 /吳 晨
《智人之上：從石器時代到AI時代的信息網(wǎng)絡(luò)簡史》是尤瓦爾赫拉利自《未來簡史：從智人到智神》出版八年以來的第一本新書，正好跨越了從2016年AlphaGo擊敗李世石到2024年生成式人工智能大爆炸這兩個AI大爆炸的時間點(diǎn)。如果說《未來簡史》還是在AI大爆炸原點(diǎn)所做的暢想，那么《智人之上》可以說是經(jīng)過長時間參與AI討論與思考之后對未來的分析。
《智人之上：從石器時代到AI時代的信息網(wǎng)絡(luò)簡史》（以色列）尤瓦爾赫拉利/著林俊宏/譯中信出版集團(tuán)2024年9月
如何從信息的流動和聯(lián)結(jié)的視角去思考未來？為什么秩序與真相經(jīng)常魚和熊掌不可兼得？為什么更多的信息并不會自動指向真相/真理？AI作為會思考和能行動的信息創(chuàng)造者和載體，可能給人類歷史帶來哪些重大變革？赫拉利在《智人之上》中對AI時代提出了三大問題。
第一個大問題：為什么可以透過信息來分析歷史、權(quán)力和未來？
赫拉利提出信息的流動和聯(lián)結(jié)是我們理解人類歷史的抓手。要理解這一點(diǎn)，首先我們需要知道什么是信息？什么是信息技術(shù)？為什么信息和信息技術(shù)對我們?nèi)祟惖慕M織至關(guān)重要？
信息一開始是口口相傳的知識，是我們對這個世界的認(rèn)知和我們自己的感受（也就是客觀存在和主觀認(rèn)知），也可以說是我們對外部世界和外部世界的運(yùn)行規(guī)則不斷構(gòu)建的認(rèn)知模型，一個外部世界的虛擬分身（衍生到當(dāng)下就是數(shù)字分身的概念）。在此技術(shù)之上我們又開始構(gòu)建一系列新的認(rèn)知，從傳說到故事、從宗教到信仰、從法律到制度，都是我們?nèi)祟愃茉斓囊幌盗腥巳洪g構(gòu)建的認(rèn)知，其主要作用是通過達(dá)成共識來維持人類的秩序，讓人類可以更大規(guī)模地被組織起來。從認(rèn)知和秩序這兩個視角而認(rèn)知在科學(xué)思想出現(xiàn)之后又逐漸演化成了我們對真理和真相的追求分析信息對人類而言具有重大意義。
那什么是信息技術(shù)呢？可以說是信息的載體和傳播方式。語言和文字是最早的信息載體，也是人類之所以成為地球主宰的最重要的發(fā)明。文字所形成的文檔和書則是信息技術(shù)的又一進(jìn)步。文檔第一次創(chuàng)造了獨(dú)立于口口相傳的現(xiàn)實(shí)世界的模擬，甚至在人類歷史的演進(jìn)過程中扮演了越來越重要的角色：從最基本的交易記錄，到維護(hù)商業(yè)的契約，再到法律的條文和判例……字據(jù)和憑證是真實(shí)的驗(yàn)證，在很多情況下更是超越真實(shí)的唯一證據(jù)。
書與文檔最大的區(qū)別不只是書的篇幅更長，更重要在于書是復(fù)制成許多份的文檔，書最早的立意就是為了更好地傳播，而且因?yàn)槊恳环荻际歉北荆_保傳播的訊息一致而不被篡改（當(dāng)然，在印刷術(shù)被發(fā)明并廣為流傳之前，書依賴手抄，紕漏與錯誤在所難免）。從這一視角出發(fā)，從猶太教、基督教經(jīng)典形成歷史來理解書的價值，早期西方的書籍可以等同于經(jīng)典。
作為經(jīng)典的書代表了不容置疑的真相。在信息匱乏的時代，在大多數(shù)人都愚昧無知，大多數(shù)人都不識字的時代，經(jīng)典就代表了一種權(quán)威。經(jīng)典有利于塑造一種大多數(shù)人都服從的秩序，也因?yàn)榻?jīng)典的一致性，它可以取代特定個體成為維持秩序的權(quán)威。但經(jīng)典的問題是無法與時俱進(jìn)，不可能穿越時代去解決未來發(fā)生的問題，無法自我修正，所以才會出現(xiàn)經(jīng)典的解釋者。以猶太教為例，后續(xù)出現(xiàn)了解釋經(jīng)書的密釋納和塔木德，也形成了猶太人質(zhì)疑與辯論的傳統(tǒng)。
活字印刷術(shù)在西方的出現(xiàn)帶來了革命性的成果，普及了知識傳播，也讓知識變得更加便宜。赫拉利并不認(rèn)為活字印刷術(shù)本身推動了文藝復(fù)興和科學(xué)的發(fā)展，技術(shù)能幫助傳播科學(xué)和真理，但更容易助長謠言和煽動性文字的傳播。這一特點(diǎn)從報紙雜志時代到計算機(jī)、互聯(lián)網(wǎng)和AI時代依然如此，因?yàn)?ldquo;壞事傳千里”。
從信息和信息技術(shù)的發(fā)展不難引出第二個大問題：信息技術(shù)與權(quán)力秩序之間的關(guān)系？
赫拉利在《智人之上》開篇就特別批駁了科技萬能主義者“天真的信息觀”，這一觀點(diǎn)認(rèn)為只要有更多信息人們就能更好地發(fā)現(xiàn)真相，接近真理。他推崇復(fù)雜的信息觀，認(rèn)為信息不僅會帶領(lǐng)我們走近真理，也可能幫助人類塑造秩序，而秩序和真理在很多時候是魚和熊掌不可兼得，歷史上犧牲真相來維持秩序的例子比比皆是。
在探討真相和秩序在人類歷史上的取舍關(guān)系之前，我們還需要理解信息與信息技術(shù)的演進(jìn)。從歷史發(fā)展來看，人類社會的信息越來越多，尤其是計算機(jī)和互聯(lián)網(wǎng)發(fā)明之后，呈現(xiàn)出爆炸式的增長。信息技術(shù)也是如此，從印刷術(shù)到電報、收音機(jī)、電話、電視、計算機(jī)和互聯(lián)網(wǎng)，人類信息交流也呈現(xiàn)出一種爆炸態(tài)勢。
同樣，站在歷史分析的視角，赫拉利似乎推導(dǎo)出一個結(jié)論，即信息的匱乏與信息技術(shù)落后所帶來的信息傳播效率低下導(dǎo)致大多數(shù)人類組織都是獨(dú)裁而不是民主的，無論是王國還是帝國。在電報和火車在中國出現(xiàn)之前，最快的信息傳遞技術(shù)是八百里加急的驛傳系統(tǒng)。
他提出，在信息技術(shù)高度發(fā)達(dá)之前，分布式的民主信息網(wǎng)絡(luò)似乎就是無法與大規(guī)模的社會兼容的。論據(jù)不少，比如在現(xiàn)代之前只有希臘城邦才真正踐行過民主。因?yàn)槊裰鞯膶?shí)踐需要參與和對話，讓更多人對利益相關(guān)的事項參與討論，而且要保證這種討論是高質(zhì)量的而不是雞同鴨講的。這需要至少滿足兩點(diǎn)：一是每個參與者都要處于彼此的聽力范圍之內(nèi)，可以相互聽見；二是每個人都必須對自己談?wù)摰膬?nèi)容有基本的了解，需要教育和媒體，讓大家都能對自己從未親身經(jīng)歷的議題有一定理解。換句話說，在一個大多數(shù)人還是文盲，沒有現(xiàn)代媒體，信息傳遞不便的時代，只有小國寡民的城邦才可能真正踐行民主。
而在信息匱乏和信息技術(shù)落后的時代更容易塑造專制的秩序。專制會基于某種故事或者傳說，比如君權(quán)神授，比如天子的天命等等，也會形成一套話語體系、意識形態(tài)來維持秩序，而秩序說白了就是穩(wěn)定，各安其位、按部就班，在一個巨大規(guī)模上不出現(xiàn)混亂。
當(dāng)然，這種對秩序的追求很可能出現(xiàn)扼殺真相以維持秩序的情況，古今中外這樣的例子數(shù)不勝數(shù)�？傮w而言會出現(xiàn)三大問題：一是從狐假虎威到指鹿為馬。趙高與秦二世之間指鹿為馬的故事眾人皆知。從信息的視角來分析，當(dāng)趙高壟斷了秦二世的信息渠道，當(dāng)整個秦帝國的信息都匯總到趙高手中時，他就成了擁有真正權(quán)力的幕后獨(dú)裁者。羅馬皇帝提比略成了禁衛(wèi)軍隊長塞揚(yáng)努斯的傀儡也是類似的例子。二是必須應(yīng)對僵化、難以變通的風(fēng)險。切爾諾貝利核事故是最近的例子。赫拉利2019年參觀核電站時，烏克蘭的解說員總結(jié)說：“美國人從小相信的是問題會帶來答案，蘇聯(lián)人從小相信的是問題會帶來麻煩。”三是這種秩序還可能培養(yǎng)出奴性、虛偽、對他人的不信任和悲觀。
這種真相與秩序的沖突，我們也可以從短期與長期的角度來分析。
從短期而言，在信息匱乏和信息技術(shù)落后的時代，獨(dú)裁是一個更加高效的治理體系。因?yàn)檎莆諜?quán)力的人會是那些知道如何創(chuàng)造意識形態(tài)來維持秩序的人。他們通過虛構(gòu)故事來化繁就簡，避實(shí)就虛。虛構(gòu)的故事要多簡單就可以多簡單，而現(xiàn)實(shí)要復(fù)雜得多。真相常常令人痛苦不堪，虛構(gòu)的故事可塑性更強(qiáng)。早期的意識形態(tài)，無論是宗教還是神話，都有類似的特征。
但從長期來看，這樣的治理體系就會出問題，無論是權(quán)力容易被篡奪中國歷史上一而再再而三出現(xiàn)的外戚與宦官的問題還是上面提到的奴性和犬儒。
短期有效而長期失衡的主要原因是系統(tǒng)缺乏自我修正或者糾錯的能力。一個犧牲真相而維持秩序的系統(tǒng)最大的挑戰(zhàn)恰恰是缺乏自我修正能力。
真相與秩序的沖突也體現(xiàn)在科學(xué)的發(fā)展上。赫拉利認(rèn)為，科學(xué)革命的真正引擎是自我修正機(jī)制�？茖W(xué)鼓勵的是懷疑自己，而陰謀論者常常對眾人既有的共識表示懷疑。自我修正機(jī)制的好處是追求真理、與時俱進(jìn)，壞處是打破秩序。而科學(xué)機(jī)構(gòu)之所以能夠如此，是因?yàn)榘丫S護(hù)社會秩序的艱巨任務(wù)留給了其他機(jī)構(gòu)和制度。換句話說，如果沒有其他現(xiàn)代制度，比如說法治，科學(xué)也很難獨(dú)善其身。
對科學(xué)的討論進(jìn)一步延伸就變成了如何創(chuàng)新與突破的問題。真正的創(chuàng)新與突破可能一開始是異端邪說，并不為多少人所認(rèn)同，也可能是一連串的失敗。我們也不難發(fā)現(xiàn)，秩序和創(chuàng)新也是一對悖論：秩序強(qiáng)調(diào)的是穩(wěn)定、是服從，很難構(gòu)成創(chuàng)新和突破的土壤；而創(chuàng)新會帶來混亂，也需要一定程度的混亂與打破常規(guī)，通常會挑戰(zhàn)秩序，威脅穩(wěn)定。
回到赫拉利論證的出發(fā)點(diǎn)，如果說專制是因?yàn)樾畔T乏和信息技術(shù)落后，那么隨著信息的爆炸和信息技術(shù)的進(jìn)步，我們是不是就可以自動走向民主？
赫拉利的答案是不一定，因?yàn)樗o民主下了一個重要的定義，那就是全民有效參與的對話。換句話說，問題就變成了信息爆炸和信息技術(shù)的進(jìn)步是否能夠推動全民有效參與對話？分拆下來就是信息爆炸是否自動能帶來一系列改變，比如教育的提升，全民認(rèn)知的提升，媒體的繁榮，媒體是否能成為普通人沒有親身經(jīng)歷但卻利益攸關(guān)問題的嚴(yán)肅開放的討論場域？抑或，信息爆炸帶來的是更多的噪音和虛假甚至有害信息的泛濫？信息技術(shù)的進(jìn)步強(qiáng)化的是小群體、小圈子的認(rèn)同，是信息繭房，是認(rèn)知的極化？
以美國為例，他悲觀地認(rèn)為，無論現(xiàn)在真正影響美國的對話在哪里進(jìn)行，都絕對不是在國會，而美國民主最大的挑戰(zhàn)則是“人民已經(jīng)失去了傾聽彼此的意愿或能力”。
這就引發(fā)了第三個連接歷史和未來的大問題：AI將帶來哪些重大變革？
要回答這個問題，就需要把AI置身于信息與信息技術(shù)發(fā)展的歷史語境中去思考。
首次，以赫拉利對歷史的認(rèn)知，他認(rèn)為新信息技術(shù)的發(fā)明總能促成重大的歷史變革，因?yàn)樾畔⒆钪匾淖饔檬蔷幙椥碌木W(wǎng)絡(luò)，而不是呈現(xiàn)既有現(xiàn)實(shí)。此外，歷史上的信息網(wǎng)絡(luò)往往重視秩序而輕真理。所以，他的潛臺詞是AI同樣會帶來重大的變革，但作為最新的信息技術(shù)它可能也面臨重秩序而輕真理的挑戰(zhàn)。
其次，基于赫拉利對信息多維度的思考，之前我們會問：信息多大程度反映了現(xiàn)實(shí)？是真的還是假的？現(xiàn)在我們更需要問：信息多大程度上聯(lián)結(jié)了人群？創(chuàng)造出什么新的網(wǎng)絡(luò)？更具體地說，AI聯(lián)結(jié)了誰，創(chuàng)造出了什么新的網(wǎng)絡(luò)？
第三，AI與此前的信息與信息技術(shù)有著本質(zhì)的區(qū)別。此前的信息技術(shù)只是成員之間的連接，而在未來的信息網(wǎng)絡(luò)中，AI將是一個完整的成員。換句話說，這一輪生成式人工智能已經(jīng)可以產(chǎn)出逼真的內(nèi)容，未來AI的大躍進(jìn)會讓它進(jìn)一步成為人類社會對話的參與者。而這種參與是禍，還是福？
結(jié)合以上三點(diǎn)思考，赫拉利眼中AI的未來是灰色的，這種灰色體現(xiàn)在層層遞進(jìn)的三個方面：
首先，如果就文字、聲音和視頻而言，我們已經(jīng)很難區(qū)分AI與人。AI可能寫出極具說服力的政治宣言，深度偽造圖像與影片，贏得我們的信任與友誼，那怎么辦？如果我們再和一個假裝成為人的智能體對話，我們會雙輸（輸兩次），與機(jī)器辯論無法說服它，卻讓它更了解我們。現(xiàn)在并沒有特別好的機(jī)制去約束AI制造謊言和謠言，而眼球經(jīng)濟(jì)驅(qū)動的平臺算法一再展示出它的各種問題比如為了增加社交平臺的粘性和使用時間，算法會更傾向于撕裂和極端的內(nèi)容，而不是理性的思考。未來如果商業(yè)利益主導(dǎo)AI的進(jìn)步，這種問題會愈演愈烈。
第二，算法面臨一致性問題。只要人類給出一個特定目標(biāo)，計算機(jī)就可能竭盡全力，所使用的方法可能出乎意料。當(dāng)AI的智能爆炸式增長，一致性問題帶來的潛在危害也會呈現(xiàn)幾何級的增長。如果我們假設(shè)AI在可預(yù)見的未來還無法形成意識，超乎人類的智能可以讓AI更高效地實(shí)現(xiàn)人類的目標(biāo)，卻無法真正理解人類的意圖。前文所談及的短期與長期、秩序與真相的矛盾，如果無法為高智能的AI所理解，就可能進(jìn)一步被極化，即極度關(guān)注短期而忽略長期，或者為了維持秩序完全罔顧真相。
第三，人工智能不僅快，而且永不停歇。這看起來是優(yōu)勢，其實(shí)也隱含著巨大的風(fēng)險。因?yàn)槿诵枰袕堄谐�，會跟不上機(jī)器的節(jié)奏，因?yàn)闄C(jī)器也會犯錯誤。怎么能讓永不停歇的網(wǎng)絡(luò)走慢點(diǎn)，也讓它有機(jī)會修正自己不斷累積的錯誤？
基于這三個方面，我們再回到AI到底會帶來哪些歷史變革的大命題它會幫助創(chuàng)建一個什么樣的新秩序？
赫拉利的擔(dān)憂是“硅幕”（類比冷戰(zhàn)期間的鐵幕）。赫拉利認(rèn)為AI很可能創(chuàng)造的是更為集中的秩序，讓信息和權(quán)力更容易集中于單一樞紐，推動人類進(jìn)入新的帝國時代。更值得擔(dān)憂的是，它可能讓世界變成平行的數(shù)字世界，使之分屬于敵對的數(shù)字帝國。“硅幕”劃分的世界新秩序有三個特點(diǎn)：第一，代碼決定你生活在硅幕的哪一側(cè)、被哪些算法控制生活、被誰控制注意力以及你的數(shù)據(jù)流向何方。第二，硅幕兩側(cè)，不僅技術(shù)上越來越不同，在文化價值觀、社會規(guī)范與政治結(jié)構(gòu)方面差異也越來越大。第三，硅幕兩側(cè)大多數(shù)國家并不會另外自行研發(fā)本地用AI的技術(shù)，而是直接采用硅幕兩側(cè)主導(dǎo)大國的技術(shù)。
最后，讓我們一起回到第一個大問題“如何從歷史看未來？”
赫拉利本人是歷史學(xué)家加哲學(xué)家，主要修讀中世紀(jì)的歷史，成名之后他有各種機(jī)會去了解AI的變化，也不斷思考AI到底會給人類社會帶來什么樣的改變。在《智人之上》中，他提出用信息產(chǎn)生什么樣的人群，聯(lián)結(jié)這一視角來理解人類的歷史，以此推演出人類歷史是一段真相和秩序平衡的歷史，很有創(chuàng)見。
但他以信息為抓手去分析歷史發(fā)展和前瞻未來，至少在兩方面需要更為深入的探討。
第一，信息作為構(gòu)建現(xiàn)實(shí)世界的模型，在AI時代會出現(xiàn)哪些突破？歷史上敘事、故事、神話的確重要，但當(dāng)我們可以擁有海量的數(shù)據(jù)，涵蓋實(shí)時發(fā)生和歷史上積累的數(shù)據(jù)，這樣的數(shù)據(jù)到底能怎么構(gòu)建一個逼真世界的模擬，乃至于模型？在數(shù)字孿生不斷進(jìn)化的世界中，AI是最為重要的推動力量。顯然需要跳脫民主與專制的單一維度去思考AI會帶來哪些全新的可能性。
第二，雖然他提出了信息建構(gòu)了人群之間的構(gòu)建的認(rèn)知，卻沒有花筆墨去深入分析這些構(gòu)建，比如說法治，比如說建立信任，比如說商業(yè)網(wǎng)絡(luò)。信息之于市場所需要的一系列規(guī)則和制度的發(fā)展同樣作用非凡。
成為一名歷史未來學(xué)家并不容易。鐵幕和“硅幕”的類比是《智人之上》最貼近以史為鑒的地方了，它推動我們?nèi)ニ伎既绾伪苊?ldquo;硅幕”的出現(xiàn)，因?yàn)椴粫卸嗌偃嗽敢庵貜?fù)鐵幕的歷史。
但我們不能忽略市場的發(fā)展，尤其不可忽略晚近出現(xiàn)的富可敵國企業(yè)的發(fā)展。1990年鐵幕落下之后，全球最重要的發(fā)展，除了信息技術(shù)的突飛猛進(jìn)之外，恰恰是富可敵國的平臺型企業(yè)的快速壯大，以及挑戰(zhàn)這些企業(yè)的顛覆力量的層出不窮。AI時代，這些企業(yè)在技術(shù)應(yīng)用和塑造未來商業(yè)領(lǐng)域會發(fā)揮大得多的作用，他們的選擇至少會影響到“硅幕”的寬窄與高矮。相應(yīng)的，AI的進(jìn)步也會不斷孕育摧毀硅幕的力量。
（作者為財經(jīng)作家，《經(jīng)濟(jì)學(xué)人商論》原總編輯，晨讀書局創(chuàng)始人）
2024年9月16日第32版
