劃重點
01人工智能加速的神經(jīng)科學可能顯著改善大多數(shù)心理疾病治療，甚至治愈它們，并大大擴展認知和心理自由。
02AI可能幫助發(fā)展中國家趕上發(fā)達世界，特別是在健康、經(jīng)濟和糧食安全方面。
03然而，AI驅動的經(jīng)濟發(fā)展可能面臨挑戰(zhàn)，如腐敗、薄弱的制度和其他人性挑戰(zhàn)。
04另一方面，AI在提高民主治理、減少不平等和實現(xiàn)個人意義方面具有潛力。
05為了實現(xiàn)這些目標，AI公司和政策制定者需要共同努力，確保發(fā)展中世界不被遺漏。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
因為諾貝爾物理學獎和化學獎都頒給了AI相關專家，Anthropic CEO 大發(fā)感慨，寫出了這23000字的雄文。他認為AI 將帶來“壓縮的21世紀”，在5-10年內(nèi)完成人類生物學家100年的研究進展，預防和治愈幾乎所有自然疾病，讓人類實現(xiàn)生物自由甚至壽命翻倍。
我經(jīng)常思考和討論強大AI的風險。作為Anthropic的CEO,我們公司在如何降低這些風險方面做了大量研究。因此,人們有時會得出結論,認為我是一個悲觀主義者或"末日論者",認為AI主要會是壞的或危險的。我一點也不這么認為。事實上,我專注于風險的主要原因之一是,它們是我們與我所認為的本質上積極的未來之間唯一的障礙。我認為大多數(shù)人低估了AI可能帶來的多么激進的積極影響,就像我認為大多數(shù)人低估了風險可能有多糟糕一樣。
在這篇文章中,我試圖勾勒出這種積極影響可能是什么樣子 - 如果一切順利,擁有強大AI的世界會是什么樣子。當然,沒有人能夠確定或精確地預知未來,而且強大AI的影響可能比過去的技術變革更加難以預測,所以所有這些不可避免地都是猜測。但我的目標至少是做出有根據(jù)和有用的猜測,即使大部分細節(jié)最終是錯誤的,也能捕捉到將要發(fā)生的事情的本質。我包括了很多細節(jié),主要是因為我認為一個具體的愿景比一個高度保留和抽象的愿景更能推進討論。
首先,我想簡單解釋一下為什么我和Anthropic沒有過多談論強大AI的積極方面,以及為什么我們可能會繼續(xù)主要談論風險。特別是,我做出這個選擇是出于以下幾個原因:
最大化杠桿作用。AI技術的基本發(fā)展及其許多(并非全部)好處似乎是不可避免的(除非風險使一切脫軌),并且基本上是由強大的市場力量驅動的。另一方面,風險并非是預先確定的,我們的行動可以極大地改變它們發(fā)生的可能性。
避免被視為宣傳。AI公司談論AI的所有驚人好處可能會給人一種宣傳的感覺,或者看起來是在試圖分散人們對缺點的注意力。我也認為,原則上花太多時間"宣傳自己的書"對你的靈魂不好。
避免夸大其詞。我經(jīng)常對許多AI風險公眾人物(更不用說AI公司領導人)談論后AGI世界的方式感到反感,好像他們的使命是像先知帶領人民走向拯救那樣單方面塑造世界。我認為將公司視為單方面塑造世界是危險的,將實際的技術目標本質上視為宗教術語也是危險的。
避免"科幻"的包袱。盡管我認為大多數(shù)人低估了強大AI的積極影響,但討論激進AI未來的小社區(qū)往往以過度"科幻"的語氣進行討論(比如上傳思維、太空探索或一般的賽博朋克氛圍)。我認為這導致人們不太認真對待這些說法,并給它們賦予一種不真實感。需要明確的是,問題不在于所描述的技術是否可能或可能發(fā)生(主文在細節(jié)上討論了這一點) - 更多的是"氛圍"在暗示中帶來了一堆文化包袱和關于什么樣的未來是可取的、各種社會問題將如何發(fā)展等未說明的假設。結果往往最終讀起來像是一個狹窄亞文化的幻想,同時讓大多數(shù)人反感。
然而,盡管有上述所有擔憂,我確實認為討論一個擁有強大AI的美好世界會是什么樣子是很重要的,同時盡最大努力避免上述陷阱。事實上,我認為擁有一個真正鼓舞人心的未來愿景是至關重要的,而不僅僅是一個滅火的計劃。強大AI的許多含義是對抗性的或危險的,但最終必須有我們?yōu)橹畩^斗的東西,一個每個人都能受益的正和結果,一些能讓人們超越爭執(zhí)并迎接未來挑戰(zhàn)的東西。恐懼是一種動力,但還不夠:我們還需要希望。
強大AI的積極應用清單非常長(包括機器人、制造、能源等),但我將重點關注少數(shù)幾個我認為最有可能直接改善人類生活質量的領域。我最感興趣的五個類別是:
生物學和身體健康
神經(jīng)科學和心理健康
經(jīng)濟發(fā)展和貧困
和平與治理
工作與意義
我的預測按大多數(shù)標準來看將是激進的(除了科幻"奇點"愿景),但我是認真和誠懇地提出這些預測的。我說的一切很容易就是錯的(重復我上面的觀點),但我至少試圖將我的觀點建立在對各個領域進步速度可能加快多少以及這在實踐中可能意味著什么的半分析性評估基礎上。我很幸運在生物學和神經(jīng)科學方面都有專業(yè)經(jīng)驗,我也是經(jīng)濟發(fā)展領域的一個有見地的業(yè)余愛好者,但我肯定會犯很多錯誤。寫這篇文章讓我意識到,把一群領域專家(生物學、經(jīng)濟學、國際關系和其他領域的專家)聚在一起,寫一個比我在這里產(chǎn)出的更好、更有見地的版本會很有價值。最好將我在這里的努力視為對該小組的一個起始提示。
基本假設和框架
為了使整篇文章更精確和有根據(jù),明確指出我們所說的強大AI是什么(即5-10年倒計時開始的閾值)很有幫助,同時也要為思考這種AI一旦出現(xiàn)后的影響建立一個框架。
強大AI(我不喜歡AGI這個術語)會是什么樣子,以及它何時(或是否)會到來,這本身就是一個巨大的話題。這是我公開討論過的,也可能會寫一篇完全獨立的文章(我可能在某個時候會這么做)。顯然,許多人對強大AI會很快被建造持懷疑態(tài)度,有些人則懷疑它是否會被建造出來。我認為它可能早在2026年就會出現(xiàn),盡管也有可能需要更長時間。但就本文而言,我想把這些問題擱置一邊,假設它會在合理的時間內(nèi)出現(xiàn),并專注于之后5-10年會發(fā)生什么。我還想假設一個定義,說明這樣的系統(tǒng)會是什么樣子,它的能力是什么,以及它如何互動,盡管這些方面也存在分歧的余地。
我所說的強大AI,是指一個AI模型 - 可能在形式上與今天的大語言模型相似,盡管它可能基于不同的架構,可能涉及幾個相互作用的模型,也可能以不同的方式訓練 - 具有以下特性:
在純粹的智能方面,它比大多數(shù)相關領域的諾貝爾獎得主更聰明 - 生物學、編程、數(shù)學、工程、寫作等。這意味著它可以證明未解決的數(shù)學定理,寫出極好的小說,從頭開始編寫復雜的代碼庫等。
除了僅僅是"你可以與之交談的聰明東西"之外,它還具有虛擬工作的人類可用的所有"接口",包括文本、音頻、視頻、鼠標和鍵盤控制以及互聯(lián)網(wǎng)訪問。它可以進行這個接口所允許的任何行動、通信或遠程操作,包括在互聯(lián)網(wǎng)上采取行動,接受或給予人類指示,訂購材料,指導實驗,觀看視頻,制作視頻等。它以超越世界上最有能力的人的技能來完成所有這些任務。
它不僅僅是被動地回答問題;相反,它可以被賦予需要數(shù)小時、數(shù)天或數(shù)周才能完成的任務,然后像一個聰明的員工那樣自主地去完成這些任務,在必要時尋求澄清。
它沒有物理實體(除了存在于計算機屏幕上),但它可以通過計算機控制現(xiàn)有的物理工具、機器人或實驗室設備;理論上它甚至可以為自己設計要使用的機器人或設備。
用于訓練模型的資源可以重新用于運行數(shù)百萬個實例(這與約2027年的預計集群規(guī)模相匹配),并且該模型可以以大約人類速度的10-100倍吸收信息和生成行動。然而,它可能會受到物理世界或它交互的軟件的響應時間的限制。
這數(shù)百萬個副本中的每一個都可以獨立地執(zhí)行不相關的任務,或者如果需要,可以像人類合作那樣一起工作,可能有不同的亞群體被微調以特別擅長特定任務。
我們可以將這概括為"數(shù)據(jù)中心里的天才國度"。
顯然,這樣一個實體能夠非�？焖俚亟鉀Q非常困難的問題,但要弄清楚有多快并不簡單。兩種"極端"立場在我看來都是錯誤的。首先,你可能認為世界會在幾秒或幾天的時間尺度上立即轉變("奇點"),因為優(yōu)越的智能不斷自我提升并幾乎立即解決每一個可能的科學、工程和操作任務。這個觀點的問題在于存在真實的物理和實際限制,例如硬件建設或進行生物實驗。即使是一個新的天才國度也會遇到這些限制。智能可能非常強大,但它不是魔法仙塵。
第二,相反,你可能認為技術進步已經(jīng)飽和或受到現(xiàn)實世界數(shù)據(jù)或社會因素的限制,超人類智能將幾乎不會增加什么。這在我看來同樣不可信 - 我能想到數(shù)百個科學甚至社會問題,一大群真正聰明的人會大大加快進展,特別是如果他們不僅限于分析,而且可以在現(xiàn)實世界中實現(xiàn)事情(我們假設的天才國度可以做到這一點,包括指導或協(xié)助人類團隊)。
我認為真相可能是這兩種極端情景的某種混合,根據(jù)任務和領域而有所不同,其細節(jié)非常微妙。我認為我們需要新的框架來以富有成效的方式思考這些細節(jié)。
經(jīng)濟學家經(jīng)常談論"生產(chǎn)要素"：諸如勞動力、土地和資本之類的東西。"勞動/土地/資本的邊際收益"這個短語捕捉了這樣一個概念：在給定情況下，某個特定因素可能是或可能不是限制性因素 - 例如，空軍需要飛機和飛行員，如果你沒有飛機，雇傭更多飛行員并不會有太大幫助。我認為在AI時代，我們應該討論智能的邊際收益，并試圖找出與智能互補且在智能很高時成為限制因素的其他因素。我們不習慣這樣思考 - 問"在這個任務中更聰明能幫多大忙，在什么時間尺度上" - 但這似乎是概念化一個擁有非常強大AI的世界的正確方式。
我猜測限制或與智能互補的因素包括：
外部世界的速度。智能代理需要在世界中互動地操作，以完成事情并學習。但世界只能以固定速度運轉。細胞和動物以固定速度運行，因此對它們的實驗需要一定的時間，這可能是不可減少的。硬件、材料科學、任何涉及與人交流的事情，甚至我們現(xiàn)有的軟件基礎設施也是如此。此外，在科學中，通常需要連續(xù)進行多個實驗，每個實驗都從上一個實驗中學習或建立。所有這些意味著完成一個主要項目 - 例如開發(fā)癌癥治療方法 - 的速度可能有一個不可減少的最小值，即使智能繼續(xù)增加也無法進一步減少。
對數(shù)據(jù)的需求。有時缺乏原始數(shù)據(jù)，在這種情況下，更多的智能并不能幫助。今天的粒子物理學家非常聰明，已經(jīng)發(fā)展出一系列廣泛的理論，但由于粒子加速器數(shù)據(jù)非常有限，他們?nèi)狈x擇這些理論的數(shù)據(jù)。目前還不清楚如果他們具有超人類智能是否會做得更好 - 除了可能加快更大加速器的建設。
內(nèi)在復雜性。有些事物本質上是不可預測或混沌的，即使是最強大的AI也無法比今天的人類或計算機預測或解開它們好得多。例如，即使是令人難以置信的強大AI也只能在一般情況下比今天的人類和計算機多預測混沌系統(tǒng)（如三體問題）一點點。
來自人類的約束。許多事情不能在不違反法律、傷害人類或擾亂社會的情況下完成。一個對齊的AI不會想要做這些事情（如果我們有一個未對齊的AI，我們就回到討論風險了）。許多人類社會結構效率低下甚至積極有害，但在尊重臨床試驗的法律要求、人們改變習慣的意愿或政府行為等限制的同時，很難改變。在技術上運作良好但其影響被法規(guī)或錯置的恐懼大大降低的進步的例子包括核能、超音速飛行，甚至電梯。
物理定律。這是第一點的更嚴格版本。有些物理定律似乎是不可打破的。不可能以超過光速的速度旅行。布丁不會自己攪拌。芯片每平方厘米只能有這么多晶體管，否則就會變得不可靠。計算需要每位擦除的最小能量，限制了世界上計算的密度。
還有一個基于時間尺度的進一步區(qū)分。短期內(nèi)的硬約束可能在長期內(nèi)變得更易受智能影響。例如，智能可能被用來開發(fā)新的實驗范式，允許我們在體外學習以前需要活體動物實驗才能學到的東西，或者建造收集新數(shù)據(jù)所需的工具（例如更大的粒子加速器），或者（在倫理限制內(nèi)）找到繞過人類約束的方法（例如幫助改進臨床試驗系統(tǒng)，幫助創(chuàng)建臨床試驗官僚程度較低的新管轄區(qū)，或改進科學本身，使人類臨床試驗變得不那么必要或更便宜）。
因此，我們應該想象這樣一幅圖景：智能最初受到其他生產(chǎn)要素的嚴重瓶頸，但隨著時間的推移，智能本身越來越多地繞過其他因素，即使它們永遠不會完全消失（有些東西如物理定律是絕對的）。關鍵問題是這一切發(fā)生的速度有多快，以及按什么順序。
帶著上述框架，我將嘗試回答引言中提到的五個領域的問題。
生物學和健康
生物學可能是科學進步最有可能直接和明確地改善人類生活質量的領域。在過去的一個世紀里，一些最古老的人類afflicitions（如天花）終于被征服了，但還有更多仍然存在，擊敗它們將是一項巨大的人道主義成就。甚至超越治愈疾病，生物科學原則上可以改善人類健康的基線質量，通過延長健康的人類壽命，增加對我們自身生物過程的控制和自由，并解決我們目前認為是人類條件不可改變部分的日常問題。
用上一節(jié)的"限制因素"語言來說,直接將智能應用于生物學的主要挑戰(zhàn)是數(shù)據(jù)、物理世界的速度和內(nèi)在復雜性(事實上,這三者都是相互關聯(lián)的)。人類約束在后期階段(涉及臨床試驗時)也起作用。讓我們逐一討論這些。
對細胞、動物甚至化學過程的實驗受到物理世界速度的限制:許多生物學協(xié)議涉及培養(yǎng)細菌或其他細胞,或者只是等待化學反應發(fā)生,這有時可能需要數(shù)天甚至數(shù)周,而且沒有明顯的方法可以加快。動物實驗可能需要數(shù)月(或更長時間),人類實驗通常需要數(shù)年(對于長期結果研究甚至可能需要數(shù)十年)。與此有些相關的是,數(shù)據(jù)往往缺乏 - 不是數(shù)量,而是質量:總是缺乏清晰、明確的數(shù)據(jù),這些數(shù)據(jù)能夠將感興趣的生物學效應與其他10,000個混淆因素隔離開來,或者因果性地干預給定過程,或者直接測量某些效應(而不是以某種間接或嘈雜的方式推斷其后果)。即使是大規(guī)模、定量的分子數(shù)據(jù),比如我在研究質譜技術時收集的蛋白質組學數(shù)據(jù),也是嘈雜的,并且遺漏了很多(這些蛋白質在哪些類型的細胞中?細胞的哪個部分?在細胞周期的哪個階段?)。
部分原因是數(shù)據(jù)問題的內(nèi)在復雜性:如果你曾經(jīng)見過展示人類代謝生物化學的圖表,你就會知道很難孤立這個復雜系統(tǒng)任何部分的效應,更難以精確或可預測的方式干預系統(tǒng)。最后,除了在人類身上進行實驗本身需要的時間外,實際的臨床試驗還涉及大量官僚作業(yè)和監(jiān)管要求,這些(在包括我在內(nèi)的許多人看來)增加了不必要的額外時間并延遲了進展。
鑒于所有這些,許多生物學家長期以來一直對AI和更廣泛的"大數(shù)據(jù)"在生物學中的價值持懷疑態(tài)度。從歷史上看,在過去30年里將自己的技能應用于生物學的數(shù)學家、計算機科學家和物理學家取得了相當大的成功,但并沒有產(chǎn)生最初希望的那種真正變革性的影響。一些懷疑論已經(jīng)被像AlphaFold(剛剛理所當然地為其創(chuàng)造者贏得了諾貝爾化學獎)和AlphaProteo這樣的重大革命性突破所減少,但仍然有一種看法認為AI是(并將繼續(xù))只在有限的情況下有用。一個常見的說法是"AI可以更好地分析你的數(shù)據(jù),但它不能產(chǎn)生更多數(shù)據(jù)或改善數(shù)據(jù)的質量。垃圾進,垃圾出"。
但我認為這種悲觀的觀點是以錯誤的方式看待AI。如果我們關于AI進展的核心假設是正確的,那么正確的思考AI的方式不是作為一種數(shù)據(jù)分析方法,而是作為一個虛擬生物學家,執(zhí)行生物學家做的所有任務,包括在現(xiàn)實世界中設計和運行實驗(通過控制實驗室機器人或簡單地告訴人類要運行哪些實驗 - 就像首席研究員對他們的研究生那樣),發(fā)明新的生物學方法或測量技術,等等。正是通過加速整個研究過程,AI才能真正加速生物學。我想重復一下這一點,因為這是我談論AI改變生物學能力時最常見的誤解:我不是在談論AI僅僅作為分析數(shù)據(jù)的工具。根據(jù)這篇文章開頭對強大AI的定義,我說的是使用AI來執(zhí)行、指導和改進生物學家所做的幾乎所有事情。
為了更具體地說明我認為加速可能來自哪里,生物學中令人驚訝的大部分進展來自真正少量的發(fā)現(xiàn),通常與廣泛的測量工具或技術有關,這些工具或技術允許在生物系統(tǒng)中進行精確但廣泛或可編程的干預。每年可能只有~1個這樣的重大發(fā)現(xiàn),但它們共同推動了生物學>50%的進展。這些發(fā)現(xiàn)如此強大,正是因為它們突破了內(nèi)在復雜性和數(shù)據(jù)限制,直接增加了我們對生物過程的理解和控制。每十年幾個發(fā)現(xiàn)不僅促進了我們對生物學的大部分基本科學理解,而且推動了許多最強大的醫(yī)療治療。
一些例子包括:
CRISPR:一種允許在活體生物中編輯任何基因的技術(用任何其他任意序列替換任何任意基因序列)。自原始技術開發(fā)以來,一直在不斷改進以靶向特定細胞類型,提高準確性,減少錯誤基因的編輯 - 所有這些都是在人類身上安全使用所需要的。
各種類型的顯微鏡技術,用于精確觀察正在發(fā)生的事情:先進的光學顯微鏡(具有各種熒光技術、特殊光學等),電子顯微鏡,原子力顯微鏡等。
基因組測序和合成,在過去幾十年里成本下降了幾個數(shù)量級。
光遺傳學技術,允許通過照射光線使神經(jīng)元激發(fā)。
mRNA疫苗,原則上允許我們設計針對任何東西的疫苗,然后快速調整它(mRNA疫苗當然在COVID期間變得著名)。
細胞療法,如CAR-T,允許將免疫細胞從體內(nèi)取出并"重新編程"以攻擊,原則上,任何東西。
概念性洞見,如疾病的細菌理論或認識到免疫系統(tǒng)與癌癥之間的聯(lián)系。
我列出所有這些技術是因為我想提出一個關鍵的主張:我認為如果有更多有才華、有創(chuàng)造力的研究人員,這些發(fā)現(xiàn)的速度可能會提高10倍或更多�；蛘�,換句話說,我認為這些發(fā)現(xiàn)的智能回報很高,生物學和醫(yī)學中的其他一切主要都源于它們。
為什么我這么認為？因為對一些問題的回答，我們應該養(yǎng)成習慣在試圖確定"智能回報"時問這些問題。首先，這些發(fā)現(xiàn)通常是由極少數(shù)研究人員做出的，往往是同一批人反復做出，這表明是技能而非隨機搜索（后者可能表明冗長的實驗是限制因素）。其次，它們往往"本可以"比實際早幾年被發(fā)現(xiàn)：例如，CRISPR是自然存在于細菌免疫系統(tǒng)中的成分，自80年代就已知，但人們花了25年才意識到它可以被重新利用于一般基因編輯。它們也經(jīng)常因為科學界缺乏對有前途方向的支持而延遲多年（看看這篇關于mRNA疫苗發(fā)明者的簡介；類似的故事比比皆是）。第三，成功的項目往往是臨時的或最初被認為不太有前途的想法，而不是大規(guī)模資金支持的努力。這表明不僅僅是大規(guī)模資源集中推動發(fā)現(xiàn)，而是創(chuàng)新。
最后，盡管這些發(fā)現(xiàn)中的一些具有"串行依賴性"（你需要先做出發(fā)現(xiàn)A才能有工具或知識來做出發(fā)現(xiàn)B）- 這再次可能造成實驗延遲 - 但許多，也許是大多數(shù)，是獨立的，這意味著可以同時并行進行多個工作。這些事實，以及我作為生物學家的一般經(jīng)驗，都強烈表明，如果科學家更聰明，更善于在人類擁有的大量生物學知識之間建立聯(lián)系，就有數(shù)百個這樣的發(fā)現(xiàn)等待被發(fā)現(xiàn)（再次考慮CRISPR的例子）。AlphaFold/AlphaProteo在解決重要問題方面比人類更有效的成功，盡管經(jīng)過了數(shù)十年精心設計的物理建模，為我們指明了前進的方向（盡管在狹窄領域使用狹窄工具）。
因此，我的猜測是，強大的AI至少可以將這些發(fā)現(xiàn)的速度提高10倍，使我們在5-10年內(nèi)獲得未來50-100年的生物學進展。為什么不是100倍？也許是可能的，但這里串行依賴性和實驗時間變得重要：在1年內(nèi)獲得100年的進展需要很多事情第一次就做對，包括動物實驗和設計顯微鏡或昂貴實驗設施等事情。我實際上對（可能聽起來荒謬的）想法持開放態(tài)度，即我們可能在5-10年內(nèi)獲得1000年的進展，但我非常懷疑我們能在1年內(nèi)獲得100年的進展。另一種說法是，我認為有一個不可避免的恒定延遲：實驗和硬件設計有一定的"延遲"，需要迭代一定"不可減少"的次數(shù)，以學習無法邏輯推導的東西。但在此基礎上可能實現(xiàn)大規(guī)模并行。
臨床試驗呢？雖然與它們相關的官僚作業(yè)和延遲很多，但事實是，很多（雖然絕不是全部�。┧鼈兊木徛罱K源于需要嚴格評估那些幾乎不起作用或模糊起作用的藥物。這可悲地適用于今天的大多數(shù)療法：平均的癌癥藥物僅增加幾個月的生存期，同時有顯著的副作用需要仔細測量（阿爾茨海默氏病藥物也有類似的情況）。這導致了巨大的研究（為了獲得統(tǒng)計學力量）和難以權衡的取舍，監(jiān)管機構通常不擅長做出這些決定，再次是因為官僚作業(yè)和利益沖突的復雜性。
當某些東西真的很有效時，進展會快得多：有一個加速批準通道，當效果更大時，批準的難度就小得多。COVID的mRNA疫苗在9個月內(nèi)獲得批準 - 比通常的速度快得多。也就是說，即使在這些條件下，臨床試驗仍然太慢 - mRNA疫苗可以說應該在~2個月內(nèi)獲得批準。但這種延遲（藥物從頭到尾約1年）與大規(guī)模并行化和對一些但不是太多迭代的需求（"幾次嘗試"）是非常兼容的，可以在5-10年內(nèi)實現(xiàn)徹底的轉變。更樂觀地說，AI支持的生物科學可能會通過開發(fā)更好的動物和細胞實驗模型（甚至模擬）來減少臨床試驗中迭代的需求，這些模型在預測人類會發(fā)生什么方面更準確。這在開發(fā)對抗衰老過程的藥物時尤其重要，因為衰老過程持續(xù)數(shù)十年，我們需要更快的迭代循環(huán)。
最后，關于臨床試驗和社會障礙的話題，值得明確指出的是，生物醫(yī)學創(chuàng)新在某些方面有一個異常強大的成功部署記錄，與其他一些技術形成對比。正如引言中提到的，許多技術盡管在技術上運作良好，但卻因社會因素而受到阻礙。這可能暗示對AI能完成的事情持悲觀看法。但生物醫(yī)學是獨特的，雖然開發(fā)藥物的過程過于繁瑣，但一旦開發(fā)出來，它們通常會成功部署和使用。
總結上述內(nèi)容，我的基本預測是，AI支持的生物學和醫(yī)學將允許我們將人類生物學家在未來50-100年內(nèi)可能實現(xiàn)的進展壓縮到5-10年內(nèi)。我將其稱為"壓縮的21世紀"：這個想法是，在強大的AI開發(fā)出來后，我們將在幾年內(nèi)取得我們本應在整個21世紀取得的所有生物學和醫(yī)學進展。盡管預測強大的AI在幾年內(nèi)能做什么仍然本質上是困難和推測性的，但問"人類在未來100年內(nèi)在沒有幫助的情況下能做什么？"有一些具體性。僅僅看看我們在20世紀取得的成就，或從21世紀的前20年推斷，或問"10個CRISPR和50個CAR-T"會帶來什么，都為我們可能從強大的AI中期待的總體進展水平提供了實際、有根據(jù)的方法。
以下我試圖列出我們可能期待的內(nèi)容。這并不基于任何嚴格的方法，在細節(jié)上幾乎肯定會被證明是錯誤的，但它試圖傳達我們應該期待的總體革命性水平：
可靠地預防和治療幾乎所有自然傳染�？紤]到20世紀對傳染病的巨大進展，想象我們可以在壓縮的21世紀"完成工作"并不激進。mRNA疫苗和類似技術已經(jīng)指明了"針對任何東西的疫苗"的方向。傳染病是否從世界上完全根除（而不僅僅是在某些地方）取決于貧困和不平等的問題，這將在第3節(jié)討論。
消除大多數(shù)癌癥。近幾十年來，癌癥死亡率每年下降約2%；因此，按照人類科學目前的步伐，我們有望在21世紀消除大多數(shù)癌癥。一些亞型已經(jīng)基本治愈（例如，使用CAR-T療法治療某些類型的白血�。铱赡軐Ψ浅＿x擇性的藥物更感興趣，這些藥物可以在癌癥早期靶向并防止其生長。AI還將使可能根據(jù)癌癥的個性化基因組非常精細地調整治療方案 - 這在今天是可能的，但在時間和人類專業(yè)知識方面非常昂貴，AI應該允許我們擴大規(guī)模。死亡率和發(fā)病率都可能降低95%或更多。話雖如此，癌癥是極其多樣和適應性強的，可能是這些疾病中最難完全消滅的。如果一些罕見、難治的惡性腫瘤持續(xù)存在，這并不令人驚訝。
非常有效地預防和有效治愈遺傳疾玻大大改進的胚胎篩查可能使預防大多數(shù)遺傳疾病成為可能，而CRISPR的一些更安全、更可靠的后代可能會治愈現(xiàn)有人群中的大多數(shù)遺傳疾玻然而，影響大部分細胞的全身性疾病可能是最后的頑固問題。
預防阿爾茨海默玻我們在弄清楚阿爾茨海默病的原因方面遇到了很大困難（它somehow與β-淀粉樣蛋白有關，但實際細節(jié)似乎非常復雜）。這似乎正是可以通過更好的測量工具來解決的問題類型，這些工具可以隔離生物學效應；因此我對AI解決它的能力持樂觀態(tài)度。一旦我們真正理解發(fā)生了什么，很有可能最終可以通過相對簡單的干預來預防它。話雖如此，已經(jīng)存在的阿爾茨海默病造成的損害可能很難逆轉。
改善大多數(shù)其他疾病的治療。這是一個包羅萬象的類別，包括糖尿并肥胖、心臟并自身免疫疾病等其他疾玻這些疾病中的大多數(shù)似乎"比癌癥和阿爾茨海默病更容易"解決，而且在許多情況下已經(jīng)在急劇下降。例如，心臟病死亡率已經(jīng)下降超過50%，像GLP-1激動劑這樣的簡單干預已經(jīng)在對抗肥胖和糖尿病方面取得了巨大進展。
生物自由。過去70年里，避孕、生育、體重管理等方面取得了進展。但我懷疑AI加速的生物學將大大擴展可能性：體重、外表、生殖和其他生物過程將完全在人們的控制之下。我們將這些歸類為生物自由：每個人都應該有權選擇他們想要成為什么樣的人，并以最吸引他們的方式生活。當然，關于全球平等獲取這些技術將會有重要問題；第3節(jié)將討論這些。
人類壽命翻倍。這可能看起來很激進，但20世紀生命期望值幾乎增加了2倍（從約40歲增加到約75歲），所以"壓縮的21世紀"再次將其翻倍到150歲是"符合趨勢"的。顯然，減緩實際衰老過程所涉及的干預措施將與上個世紀預防（主要是兒童）過早死亡所需的干預措施不同，但變化的幅度并非前所未有。具體來說，已經(jīng)存在一些藥物可以將大鼠的最大壽命增加25-50%，而且副作用有限。一些動物（例如某些類型的海龜）已經(jīng)能活200年，所以人類顯然沒有達到某種理論上的上限。猜測一下，最重要的可能是需要可靠的、不會產(chǎn)生古德哈特效應的人類衰老生物標志物，因為這將允許快速迭代實驗和臨床試驗。一旦人類壽命達到150歲，我們可能能夠達到"逃逸速度"，為當今大多數(shù)活著的人贏得足夠的時間，讓他們能夠活得想活多久就活多久，盡管這在生物學上當然不能保證是可能的。
值得看看這個列表，并思考如果所有這些在7-12年內(nèi)實現(xiàn)（這將符合激進的AI時間表），世界會有多么不同。不用說，這將是一個難以想象的人道主義勝利，一次性消除了困擾人類幾千年的大多數(shù)禍患。我的許多朋友和同事正在撫養(yǎng)孩子，當這些孩子長大時，我希望任何對疾病的提及對他們來說都會像壞血并天花或黑死病對我們來說那樣。那一代人還將受益于增加的生物自由和自我表達，如果幸運的話，他們也可能能夠活得想活多久就活多久。
很難高估這些變化對除了預期強大AI的小社區(qū)之外的每個人來說會有多么令人驚訝。例如，目前數(shù)千名美國經(jīng)濟學家和政策專家正在辯論如何保持社會保障和醫(yī)療保險的償付能力，更廣泛地說，如何控制醫(yī)療保健成本（大部分由70歲以上的人消費，特別是那些患有癌癥等終末期疾病的人）。如果所有這些都實現(xiàn)了，這些項目的情況可能會得到根本性的改善，因為工作年齡人口與退休人口的比例將發(fā)生巨大變化。毫無疑問，這些挑戰(zhàn)將被其他挑戰(zhàn)所取代，比如如何確保新技術的廣泛獲取，但值得思考的是，即使生物學是唯一被AI成功加速的領域，世界將會發(fā)生多大變化。
神經(jīng)科學和心理
在上一節(jié)中，我主要關注了物理疾病和一般生物學，沒有涉及神經(jīng)科學或心理健康。但神經(jīng)科學是生物學的一個分支學科，心理健康與身體健康同樣重要。事實上，如果有什么不同的話，心理健康對人類福祉的直接影響可能更大。數(shù)億人因成癮、抑郁、精神分裂癥、低功能自閉癥、PTSD、精神病或智力障礙等問題而生活質量很低。更多數(shù)十億人struggle with日常問題，這些問題often can be interpreted as這些嚴重臨床障礙的輕微版本。與一般生物學一樣，可能不僅僅是解決問題，還可以改善人類體驗的基線質量。
我為生物學制定的基本框架同樣適用于神經(jīng)科學。該領域的推進通常源于少量發(fā)現(xiàn)，這些發(fā)現(xiàn)通常與測量或精確干預的工具有關 - 在上面列出的那些中，光遺傳學是一項神經(jīng)科學發(fā)現(xiàn)，最近CLARITY和擴展顯微鏡技術也是同樣性質的進展，此外許多一般細胞生物學方法直接應用于神經(jīng)科學。我認為AI將以類似的方式加速這些進展的速度，因此"100年的進展壓縮到5-10年"的框架以同樣的方式適用于神經(jīng)科學，原因也相同。與生物學一樣，20世紀神經(jīng)科學的進展是巨大的 - 例如，直到20世紀50年代我們才理解神經(jīng)元如何以及為什么發(fā)放。因此，預期AI加速的神經(jīng)科學在幾年內(nèi)產(chǎn)生快速進展似乎是合理的。
我們應該在這個基本圖景中添加一點，那就是我們在過去幾年中學到的一些關于AI本身的東西可能會幫助推進神經(jīng)科學，即使它繼續(xù)只由人類完成�？山忉屝允且粋�明顯的例子：雖然生物神經(jīng)元表面上以完全不同的方式運作（它們通過尖峰和often尖峰率進行通信，所以存在人工神經(jīng)元中不存在的時間元素，而且一堆與細胞生理學和神經(jīng)遞質相關的細節(jié)大大修改了它們的運作），但"簡單單元的分布式、訓練過的網(wǎng)絡如何協(xié)同工作執(zhí)行重要計算"這個基本問題是相同的，我強烈懷疑在大多數(shù)有趣的計算和電路問題中，個別神經(jīng)元通信的細節(jié)將被抽象掉。僅舉一個例子，AI系統(tǒng)中的可解釋性研究人員發(fā)現(xiàn)的計算機制最近在小鼠大腦中被重新發(fā)現(xiàn)。
在人工神經(jīng)網(wǎng)絡上做實驗比在真實神經(jīng)網(wǎng)絡上做實驗要容易得多（后者通常需要切開動物大腦），所以可解釋性很可能成為提高我們對神經(jīng)科學理解的工具。此外，強大的AI系統(tǒng)本身可能能夠比人類更好地開發(fā)和應用這個工具。
然而，除了可解釋性之外，我們從AI中學到的關于智能系統(tǒng)如何訓練的知識應該（盡管我不確定它是否已經(jīng)）在神經(jīng)科學中引發(fā)革命。當我在神經(jīng)科學領域工作時，很多人關注我現(xiàn)在認為是錯誤的學習問題，因為scaling hypothesis / bitter lesson這個概念還不存在。簡單目標函數(shù)加上大量數(shù)據(jù)可以驅動極其復雜行為的想法，使理解目標函數(shù)和架構偏差變得更有趣，而理解涌現(xiàn)計算的細節(jié)變得不那么有趣。我近年來沒有密切關注這個領域，但我有一種模糊的感覺，計算神經(jīng)科學家還沒有完全吸收這個教訓。我對scaling hypothesis的態(tài)度一直是"啊哈 - 這在高層次上解釋了智能如何工作以及它如何如此容易進化"，但我認為這不是average神經(jīng)科學家的觀點，部分原因是scaling hypothesis作為"智能的秘密"甚至在AI內(nèi)部也沒有被完全接受。
我認為神經(jīng)科學家應該嘗試將這個基本洞見與人腦的特殊性（生物物理限制、進化歷史、拓撲結構、運動和感覺輸入/輸出的細節(jié)）結合起來，以試圖解決神經(jīng)科學的一些關鍵難題。有些人可能正在這么做，但我懷疑還不夠，而AI神經(jīng)科學家將能夠更有效地利用這個角度來加速進展。
我預計AI將通過四個不同的途徑加速神經(jīng)科學進展，所有這些途徑都有望共同治愈心理疾病并提高功能：
傳統(tǒng)分子生物學、化學和遺傳學。這基本上與第1節(jié)一般生物學的故事相同，AI可能通過相同的機制加速它。有許多藥物可以調節(jié)神經(jīng)遞質以改變大腦功能、影響警覺性或感知、改變情緒等，AI可以幫助我們發(fā)明更多這樣的藥物。AI可能還可以加速對心理疾病遺傳基礎的研究。
精細神經(jīng)測量和干預。這是能夠測量大量個別神經(jīng)元或神經(jīng)元電路在做什么，并intervene to change它們的行為的能力。光遺傳學和神經(jīng)探針是能夠在活體生物中進行測量和干預的技術，一些非常先進的方法（如分子計時器可以讀取大量個別神經(jīng)元的發(fā)放模式）也已被提出，并在原則上似乎可能。
先進的計算神經(jīng)科學。如上所述，現(xiàn)代AI的具體洞見和整體觀念可能都能有效地應用于系統(tǒng)神經(jīng)科學的問題，包括可能揭示精神病或情緒障礙等復雜疾病的真正原因和動態(tài)。
行為干預。鑒于關注神經(jīng)科學的生物學方面，我沒有太多提到，但精神病學和心理學當然在20世紀開發(fā)了廣泛的行為干預repertoire；顯而易見，AI也可以加速這些，包括開發(fā)新方法和幫助患者堅持現(xiàn)有方法。更廣泛地說，"AI教練"的想法 - 一個始終幫助你成為最好的自己，研究你的互動并幫助你學會更有效的人 - 似乎非常有前途。
我猜測，這四個進展途徑共同作用，就像對待身體疾病一樣，即使沒有AI參與，也有望在未來100年內(nèi)導致大多數(shù)心理疾病的治愈或預防 - 因此可能在5-10年AI加速的時間內(nèi)完成。具體來說，我猜測會發(fā)生的是這樣的：
大多數(shù)心理疾病可能可以被治愈。我不是精神病學疾病方面的專家（我在神經(jīng)科學領域的時間花在構建探針研究小組神經(jīng)元上），但我猜測像PTSD、抑郁癥、精神分裂癥、成癮等疾病可以通過上述四個方向的某種組合得到弄清并非常有效地治療。答案可能是"某些生化上出了問題"（盡管可能非常復雜）和"神經(jīng)網(wǎng)絡在高層次上出了問題"的某種組合。也就是說，這是一個系統(tǒng)神經(jīng)科學問題 - 盡管這并不否定上面討論的行為干預的影響。測量和干預的工具，特別是在活人身上，似乎可能導致快速迭代和進展。
非常"結構性"的狀況可能更難，但并非不可能。有一些證據(jù)表明，精神病與明顯的神經(jīng)解剖學差異有關 - 精神病患者的一些腦區(qū)simply更小或發(fā)育不良。精神病患者也被認為從小就缺乏同理心；無論他們的大腦有什么不同，可能一直都是那樣。智力障礙和其他一些情況可能也是如此。重構大腦聽起來很難，但這似乎也是一項具有高智能回報的任務。也許有某種方法可以誘導成年大腦進入更早或更具可塑性的狀態(tài)，在那里它可以被重塑。我非常不確定這有多可能，但我的直覺是對AI可以在這里發(fā)明什么持樂觀態(tài)度。
有效的遺傳預防心理疾病似乎是可能的。大多數(shù)心理疾病部分是可遺傳的，全基因組關聯(lián)研究開始在識別相關因素方面取得進展，這些因素通常數(shù)量眾多�？赡軙ㄟ^胚胎篩查預防大多數(shù)這些疾病，類似于對身體疾病的情況。一個區(qū)別是精神病更可能是多基因的（許多基因contribute），所以由于復雜性，unknowingly選擇against與疾病相關的積極特征的風險增加。奇怪的是，然而，近年來GWAS研究似乎表明這些相關性可能被夸大了。無論如何，AI加速的神經(jīng)科學可能有助于我們弄清這些事情。當然，對復雜特征進行胚胎篩查會引發(fā)一些社會問題，并且會有爭議，盡管我猜大多數(shù)人會支持對嚴重或致殘的心理疾病進行篩查。
我們不認為是臨床疾病的日常問題也將得到解決。我們大多數(shù)人都有日常心理問題，通常不被認為達到臨床疾病的程度。有些人容易發(fā)怒，有些人難以集中注意力或經(jīng)�；杌栌�，有些人害怕或焦慮，或對變化反應不好。今天，已經(jīng)存在幫助提高警覺性或注意力的藥物（咖啡因、莫達非尼、利他林），但與許多其他之前的領域一樣，可能還有更多可能性。可能還有許多這樣的藥物尚未被發(fā)現(xiàn)，也可能有全新的干預方式，如靶向光刺激（見上文的光遺傳學）或磁�？紤]到我們在20世紀開發(fā)了多少種調節(jié)認知功能和情緒狀態(tài)的藥物，我對"壓縮的21世紀"持非常樂觀態(tài)度，屆時每個人都可以讓自己的大腦表現(xiàn)得更好一些，并擁有更充實的日常體驗。
人類的基線體驗可以好得多。更進一步，許多人都經(jīng)歷過非凡的啟示時刻、創(chuàng)造性靈感、同情心、滿足感、超越感、愛、美或冥想平靜。這些體驗的特征和頻率因人而異，在同一個人在不同時間也會有很大不同，有時也可能由各種藥物觸發(fā)（盡管經(jīng)常伴有副作用）。所有這些表明"可能體驗的空間"非常廣闊，人們生活中可能有更大比例由這些非凡時刻組成�？赡苓�可以全面提高各種認知功能。這可能是"生物自由"或"延長壽命"的神經(jīng)科學版本。
一個經(jīng)常在科幻描述AI時出現(xiàn)的話題，但我故意沒有在這里討論的是"思維上傳"，即捕捉人腦的模式和動態(tài)并將其實例化在軟件中的想法。這個話題本身就可以成為一篇文章的主題，但簡單地說，雖然我認為上傳在原則上幾乎肯定是可能的，但在實踐中，即使有強大的AI，它也面臨著重大的技術和社會挑戰(zhàn)，可能使其超出我們正在討論的5-10年窗口。
總之，AI加速的神經(jīng)科學可能會大大改善大多數(shù)心理疾病的治療，甚至治愈它們，并大大擴展"認知和心理自由"以及人類的認知和情感能力。它將像上一節(jié)描述的身體健康改善一樣激進。也許世界在外表上不會有明顯的不同，但人類體驗的世界將成為一個更美好、更人性化的地方，也是一個提供更多自我實現(xiàn)機會的地方。我也懷疑改善心理健康將緩解許多其他社會問題，包括那些看似政治或經(jīng)濟的問題。
經(jīng)濟發(fā)展和貧困
前兩節(jié)討論的是開發(fā)新技術來治愈疾病和改善人類生活質量。然而,從人道主義的角度來看,一個明顯的問題是:"每個人都能獲得這些技術嗎?"
治愈一種疾病是一回事,從世界上根除這種疾病是另一回事。更廣泛地說,許多現(xiàn)有的健康干預措施還沒有在世界各地應用,同樣的情況也適用于(非健康)技術改進。另一種說法是,世界上許多地方的生活水平仍然極度貧困:撒哈拉以南非洲的人均GDP約為2000美元,而美國約為75000美元。如果AI進一步提高了發(fā)達國家的經(jīng)濟增長和生活質量,而對發(fā)展中國家?guī)缀鯖]有幫助,我們應該將其視為一個可怕的道德失敗,是對前兩節(jié)真正的人道主義勝利的污點。理想情況下,強大的AI應該幫助發(fā)展中世界趕上發(fā)達世界,即使它正在徹底改變后者。
我不像相信AI能發(fā)明基礎技術那樣確信它能解決不平等和經(jīng)濟增長問題,因為技術有如此明顯的高智能回報(包括繞過復雜性和缺乏數(shù)據(jù)的能力),而經(jīng)濟涉及許多來自人類的約束,以及大量的內(nèi)在復雜性。我有點懷疑AI是否能解決著名的"社會主義計算問題",我也不認為政府會(或應該)將經(jīng)濟政策交給這樣一個實體,即使它能做到。還有一些問題,比如如何說服人們接受有效但他們可能懷疑的治療。
發(fā)展中世界面臨的挑戰(zhàn)因私營和公共部門普遍存在的腐敗而變得更加復雜。腐敗造成了一個惡性循環(huán):它加劇了貧困,而貧困反過來又滋生了更多腐敗。AI驅動的經(jīng)濟發(fā)展計劃需要應對腐敗、薄弱的制度和其他非常人性化的挑戰(zhàn)。
盡管如此,我確實看到了重要的樂觀理由。疾病已經(jīng)被根除,許多國家已經(jīng)從貧窮變得富有,很明顯,這些任務中涉及的決策表現(xiàn)出高智能回報(盡管存在人為限制和復雜性)。因此,AI可能能夠比目前做得更好。也可能有針對性的干預措施可以繞過人為限制,AI可以專注于此。更重要的是,我們必須嘗試。AI公司和發(fā)達國家的政策制定者都需要盡自己的一份力,確保發(fā)展中世界不被遺漏;道德要求太大了。因此,在本節(jié)中,我將繼續(xù)提出樂觀的觀點,但請記住,成功并不能保證,取決于我們的集體努力。
以下是我對強大AI開發(fā)后5-10年內(nèi)發(fā)展中世界可能發(fā)生的情況的一些猜測:
健康干預的分配。我最樂觀的領域可能是在全世界范圍內(nèi)分配健康干預措施。疾病實際上已經(jīng)被自上而下的運動根除:天花在20世紀70年代被完全消滅,脊髓灰質炎和麥地那龍線蟲病每年的病例不到100例,幾乎被根除。數(shù)學上復雜的流行病學建模在疾病根除運動中發(fā)揮著積極作用,似乎很可能有空間讓比人類更聰明的AI系統(tǒng)做得比人類更好。分配的物流也可能得到極大的優(yōu)化。作為GiveWell的早期捐助者,我學到的一件事是,一些健康慈善機構比其他機構有效得多;希望AI加速的努力會更有效。此外,一些生物學進展實際上使分配物流變得更加簡單:例如,瘧疾一直難以根除,因為它需要在每次疾病發(fā)作時進行治療;只需要一次administration的疫苗使物流變得更簡單(事實上,這種瘧疾疫苗目前正在開發(fā)中)。甚至可能有更簡單的分配機制:原則上,一些疾病可以通過針對其動物載體來根除,例如釋放感染了阻止其攜帶疾病的細菌的蚊子(然后感染所有其他蚊子),或者simply使用基因驅動來消滅蚊子。這需要一個或幾個集中行動,而不是必須單獨治療數(shù)百萬人的協(xié)調運動。總的來說,我認為5-10年是一個合理的時間表,可以讓AI驅動的健康益處的很大一部分(也許50%)傳播到世界上最貧窮的國家。一個好的目標可能是,在強大AI出現(xiàn)5-10年后,發(fā)展中世界至少在健康方面比今天的發(fā)達世界更好,即使它繼續(xù)落后于發(fā)達世界。當然,實現(xiàn)這一目標將需要全球健康、慈善、政治倡導和許多其他努力方面的巨大努力,AI開發(fā)者和政策制定者都應該提供幫助。
經(jīng)濟增長。發(fā)展中世界能否在健康方面,而且在整個經(jīng)濟領域迅速趕上發(fā)達世界?這是有先例的:在20世紀最后幾十年,幾個東亞經(jīng)濟體實現(xiàn)了持續(xù)約10%的年實際GDP增長率,使它們能夠趕上發(fā)達世界。人類經(jīng)濟規(guī)劃者做出了導致這一成功的決定,不是通過直接控制整個經(jīng)濟,而是通過拉動幾個關鍵杠桿(如出口主導增長的產(chǎn)業(yè)政策,抵制依賴自然資源財富的誘惑);plausible "AI財政部長和央行行長"可能會復制或超過這10%的成就。一個重要問題是如何讓發(fā)展中國家政府采用它們,同時尊重自決原則 - 一些可能會熱情接受,但其他可能會持懷疑態(tài)度。樂觀的一面是,上一點中的許多健康干預可能會自然地增加經(jīng)濟增長:根除艾滋病/瘧疾/寄生蟲將對生產(chǎn)力產(chǎn)生變革性影響,更不用說一些神經(jīng)科學干預(如改善情緒和注意力)對發(fā)達和發(fā)展中世界alike的經(jīng)濟效益。最后,非健康AI加速技術(如能源技術、運輸無人機、改進的建筑材料、更好的物流和分配等)可能simply通過市場機制滲透到世界各地;例如,即使是手機也quickly滲透到撒哈拉以南非洲,而不需要慈善努力。在更消極的一面,雖然AI和自動化有許多潛在好處,但它們也給經(jīng)濟發(fā)展帶來挑戰(zhàn),特別是對那些還沒有工業(yè)化的國家。找到確保這些國家在日益自動化的時代仍能發(fā)展和改善經(jīng)濟的方法是經(jīng)濟學家和政策制定者需要解決的一個重要挑戰(zhàn)�？偟膩碚f,一個夢想的scenario - 也許是一個值得努力的目標 - 將是發(fā)展中世界20%的年GDP增長率,其中10%來自AI支持的經(jīng)濟決策,10%來自AI加速技術的自然傳播,包括但不限于健康。如果實現(xiàn),這將使撒哈拉以南非洲在5-10年內(nèi)達到中國目前的人均GDP水平,同時將發(fā)展中世界的大部分地區(qū)提高到高于目前美國GDP的水平。再次強調,這是一個夢想的scenario,不是默認情況下會發(fā)生的:這是我們所有人必須共同努力使之更有可能發(fā)生的事情。
糧食安全。20世紀作物技術的進步,如更好的肥料和農(nóng)藥、更多自動化和更有效的土地利用,極大地提高了作物產(chǎn)量,使數(shù)百萬人免于饑餓�；蚬こ棠壳罢谶M一步改善許多作物。找到更多方法來做到這一點 - 以及使農(nóng)業(yè)供應鏈更加高效 - 可能給我們帶來AI驅動的第二次綠色革命,幫助縮小發(fā)展中世界和發(fā)達世界之間的差距。
減緩氣候變化。氣候變化在發(fā)展中世界將感受到更強烈,阻礙其發(fā)展。我們可以預期,AI將導致減緩或防止氣候變化的技術改進,從大氣碳移除和清潔能源技術到實驗室培育的肉類,減少我們對碳密集型工廠養(yǎng)殖的依賴。當然,如上所述,技術并不是限制氣候變化進展的唯一因素 - 與本文討論的所有其他問題一樣,人類社會因素很重要。但有充分理由認為,AI增強的研究將給我們提供手段,使減緩氣候變化的成本大大降低,disruption更少,使許多反對意見變得無關緊要,并使發(fā)展中國家能夠取得更多經(jīng)濟進步。
國家內(nèi)部的不平等。我主要談論不平等作為一個全球現(xiàn)象(我確實認為這是其最重要的表現(xiàn)),但當然不平等也存在于國家內(nèi)部。隨著先進的健康干預措施,特別是壽命的徹底增加或認知增強藥物,當然會有valid的擔憂,這些技術"只為富人服務"。我對發(fā)達國家的國內(nèi)不平等更樂觀,原因有二。首先,市場在發(fā)達國家運作得更好,而市場通常擅長隨著時間的推移降低高價值技術的成本。其次,發(fā)達國家的政治機構對公民的反應更敏感,有更大的國家能力來執(zhí)行普及訪問計劃 - 我預計公民會要求獲得如此徹底改善生活質量的技術。當然,這種要求不是注定會成功的 - 這里是另一個我們集體必須盡一切努力確保公平社會的地方。財富不平等(而不是獲取拯救生命和增強生命技術的不平等)是一個單獨的問題,似乎更難解決,我在第5節(jié)討論這個問題。
退出問題。在發(fā)達世界和發(fā)展中世界alike的一個擔憂是人們選擇不接受AI支持的好處(類似于反疫苗運動,或更廣泛的盧德運動)。可能會出現(xiàn)不好的反饋循環(huán),例如,最不能做出good決定的人選擇退出precisely那些改善他們決策能力的技術,導致ever-increasing差距,甚至創(chuàng)造一個反烏托邦的下層階級(一些研究人員認為這將破壞民主,我在下一節(jié)進一步討論這個話題)。這將,再次,給AI的positive進展蒙上道德污點。這是一個難以解決的問題,因為我認為在倫理上不OK強迫人們,但我們至少可以嘗試提高人們的科學理解 - 也許AI itself可以幫助我們做到這一點。一個hopeful的跡象是,歷史上反技術運動的bark比bite更大:抨擊現(xiàn)代技術很流行,但最終大多數(shù)人都會采用它,至少當it's a matter of個人選擇時。個人傾向于采用大多數(shù)健康和消費技術,而真正受阻的技術,如核能,往往是集體政治決策。
總的來說,我對迅速將AI的生物學進展帶給發(fā)展中世界的人們持樂觀態(tài)度。我希望,盡管不確定,AI也能實現(xiàn)前所未有的經(jīng)濟增長率,使發(fā)展中世界至少超過發(fā)達世界現(xiàn)在的水平。我擔心發(fā)達世界和發(fā)展中世界的"退出"問題,但懷疑它會隨著時間的推移減弱,并且AI可以幫助加速這一過程。這不會是一個完美的世界,落后的人不會完全趕上,至少在最初的幾年內(nèi)不會。但通過我們的強烈努力,我們可能能夠使事情朝著正確的方向快速發(fā)展。如果我們這樣做,我們至少可以兌現(xiàn)我們對地球上每個人應盡的尊嚴和平等的承諾。
和平與治理
假設前三節(jié)中的所有內(nèi)容都進展順利：疾并貧困和不平等顯著減少，人類體驗的基線大幅提高。但這并不意味著所有主要的人類苦難原因都得到解決。人類仍然對彼此構成威脅。雖然技術進步和經(jīng)濟發(fā)展導致民主和和平的趨勢存在，但這是一個非常松散的趨勢，經(jīng)常（且最近）出現(xiàn)倒退。在20世紀初，人們認為他們已經(jīng)將戰(zhàn)爭拋在身后；然后出現(xiàn)了兩次世界大戰(zhàn)。30年前，弗朗西斯福山寫了關于"歷史的終結"和自由民主的最終勝利；這還沒有發(fā)生。20年前，美國政策制定者相信與中國的自由貿(mào)易會隨著中國變得更富裕而使其自由化；這完全沒有發(fā)生，我們現(xiàn)在似乎正走向與復興的專制集團的第二次冷戰(zhàn)。而且合理的理論表明，互聯(lián)網(wǎng)技術實際上可能有利于專制主義，而不是最初認為的民主（例如在"阿拉伯之春"時期）。因此，試圖理解強大的AI將如何與這些和平、民主和自由的問題相交叉似乎很重要。
不幸的是，我看不到強有力的理由相信AI會優(yōu)先或結構性地推進民主和和平，就像我認為它會結構性地推進人類健康和緩解貧困一樣。人類沖突是對抗性的，原則上AI可以幫助"好人"和"壞人"。如果有什么的話，一些結構性因素似乎令人擔憂：AI似乎可能實現(xiàn)更好的宣傳和監(jiān)視，這兩者都是獨裁者工具箱中的主要工具。因此，我們作為個人行動者有責任將事情朝著正確的方向傾斜：如果我們希望AI有利于民主和個人權利，我們將不得不為這一結果而戰(zhàn)。我對此的感受比對國際不平等的感受更強烈：自由民主的勝利和政治穩(wěn)定并不能保證，也許甚至不太可能，這將需要我們所有人付出巨大的犧牲和承諾，就像過去經(jīng)常發(fā)生的那樣。
我認為這個問題有兩個部分：國際沖突和國家的內(nèi)部結構。在國際方面，當強大的AI被創(chuàng)造出來時，民主國家在世界舞臺上占據(jù)上風似乎非常重要。AI驅動的專制主義似乎太可怕了，不敢考慮，所以民主國家需要能夠設定強大AI被引入世界的條件，既要避免被獨裁者壓倒，又要防止在獨裁國家內(nèi)部發(fā)生侵犯人權的行為。
我目前猜測最好的方法是通過"協(xié)約戰(zhàn)略"，在這種戰(zhàn)略中，民主國家聯(lián)盟尋求通過確保其供應鏈、快速擴展和阻止或延遲對手獲取關鍵資源（如芯片和半導體設備）來獲得明確的優(yōu)勢（即使只是暫時的）。這個聯(lián)盟一方面會使用AI來實現(xiàn)強大的軍事優(yōu)勢（大棒），同時也會提供將強大AI的好處（胡蘿卜）分配給越來越多的國家，以換取支持聯(lián)盟促進民主的戰(zhàn)略（這有點類似于"和平利用原子能"）。聯(lián)盟的目標將是獲得越來越多的世界支持，孤立我們最壞的對手，最終使他們處于這樣一種位置：他們最好接受與世界其他地方相同的交易：放棄與民主國家競爭，以獲得所有利益并避免與更強大的對手作戰(zhàn)。
如果我們能做到這一切，我們將擁有一個由民主國家在世界舞臺上領導的世界，它們擁有經(jīng)濟和軍事力量來避免被專制政權破壞、征服或破壞，并可能將其AI優(yōu)勢轉化為持久的優(yōu)勢。這可能樂觀地導致一個"永恒的1991年" - 一個民主國家占據(jù)上風，福山的夢想實現(xiàn)的世界。再次強調，這將非常難以實現(xiàn)，特別需要私營AI公司與民主政府之間的密切合作，以及關于胡蘿卜和大棒之間平衡的非常明智的決策。
即使所有這些都進展順利，仍然留下了每個國家內(nèi)部民主與專制之間斗爭的問題。顯然很難預測這里會發(fā)生什么，但我確實對給定一個民主國家控制最強大AI的全球環(huán)境持一些樂觀態(tài)度，那么AI實際上可能在everywhere結構性地有利于民主。特別是，在這種環(huán)境中，民主政府可以利用其優(yōu)越的AI來贏得信息戰(zhàn)：它們可以counter專制政權的影響和宣傳行動，甚至可能通過以專制政權在技術上無法阻止或監(jiān)控的方式提供信息渠道和AI服務來創(chuàng)造一個全球自由信息環(huán)境�？赡懿恍枰獋鞑バ麄�，只需counter惡意攻擊并解除對信息自由流動的阻塞。雖然不是立即，但這樣的平等競爭環(huán)境有很好的機會逐漸將全球治理傾向于民主，原因有幾個。
首先，第1-3節(jié)中提到的生活質量的提高應該，在其他條件相同的情況下，促進民主：歷史上它們至少在某種程度上做到了這一點。特別是，我預計心理健康、福祉和教育的改善會增加民主，因為這三者與支持威權領導人呈負相關。一般來說，當人們的其他需求得到滿足時，他們會希望有更多的自我表達，而民主除其他外還是一種自我表達的形式。相反，威權主義蓬勃發(fā)展于恐懼和怨恨之中。
第二，自由信息確實有很好的機會破壞威權主義，只要威權主義者無法審查它。未經(jīng)審查的AI還可以為個人帶來強大的工具來破壞壓制性政府。壓制性政府通過否認人們某種common knowledge而生存，阻止他們意識到"皇帝沒有穿衣服"。例如，Sra Popovi幫助推翻了塞爾維亞的米洛舍維奇政府，他廣泛寫了關于在心理上剝奪獨裁者權力的技術，打破咒語并rallying支持反對獨裁者。一個超人類有效的AI版本的Popovi（其技能似乎有高智能回報）在每個人的口袋里，而且獨裁者無力阻止或審查，可能會為世界各地的異見人士和改革者創(chuàng)造有利條件。再次強調，這將是一場長期和持久的斗爭，勝利并不能保證，但如果我們以正確的方式設計和建造AI，at least這可能是一場everywhere自由的倡導者有優(yōu)勢的斗爭。
與神經(jīng)科學和生物學一樣，我們也可以問事情如何能"比正常更好" - 不僅是如何避免專制，而且如何使民主比今天更好。即使在民主國家內(nèi)部，不公正也時有發(fā)生。法治社會向其公民承諾，每個人在法律面前都是平等的，每個人都有基本人權，但顯然人們并不總是在實踐中得到這些權利。這一承諾即使部分實現(xiàn)也是值得驕傲的，但AI能否幫助我們做得更好？
例如，AI能否通過使決策和過程更加公正來改善我們的法律和司法系統(tǒng)？今天，人們主要擔心在法律或司法環(huán)境中AI系統(tǒng)會成為歧視的原因，這些擔憂很重要，需要防范。同時，民主的活力取決于利用新技術來改善民主制度，而不僅僅是應對風險。一個真正成熟和成功的AI實施有可能減少偏見，對每個人都更公平。
幾個世紀以來，法律系統(tǒng)面臨著這樣一個困境：法律旨在保持公正，但本質上是主觀的，因此必須由有偏見的人來解釋。試圖使法律完全機械化并不奏效，因為現(xiàn)實世界是混亂的，不能總是用數(shù)學公式捕捉。相反，法律系統(tǒng)依賴于臭名昭著的不精確標準，如"殘忍和不尋常的懲罰"或"完全沒有救贖社會重要性"，然后由人類解釋 - 并且經(jīng)常以顯示偏見、偏袒或任意性的方式解釋。加密貨幣中的"智能合約"之所以沒有徹底改變法律，是因為普通代碼不夠聰明，無法裁決太多有趣的事情。但AI可能足夠聰明做到這一點：它是第一個能夠以可重復和機械的方式做出廣泛、模糊判斷的技術。
我并不是建議我們literally用AI系統(tǒng)取代法官，但將公正性與理解和處理混亂、現(xiàn)實世界情況的能力結合起來，感覺應該對法律和正義有一些serious的積極應用。at least，這樣的系統(tǒng)可以與人類一起工作，作為決策的輔助工具。透明度在任何這樣的系統(tǒng)中都很重要，一門成熟的AI科學conceivably可以提供它：這種系統(tǒng)的訓練過程可以被廣泛研究，先進的可解釋性技術可以用來看inside最終模型并評估其隱藏的偏見，這是對人類simply不可能的。這種AI工具還可以用于監(jiān)控司法或警察環(huán)境中基本權利的侵犯，使憲法更具自我執(zhí)行性。
同樣，AI可以用來匯總意見并在公民之間達成共識，解決沖突，找到共同點，尋求妥協(xié)。計算民主項目已經(jīng)在這個方向上進行了一些早期的想法，包括與Anthropic的合作。一個更有見地和更深思熟慮的公民顯然會加強民主制度。
AI還有一個clear的機會用于幫助提供原則上對每個人都可用但實際上often嚴重缺乏的政府服務，而且在某些地方比其他地方更糟糕。這包括健康服務、機動車管理局、稅收、社會保障、建筑code執(zhí)行等。擁有一個非常thoughtful和informed的AI，其工作是以你能理解的方式給你政府legally應該給你的一切 - 并且還幫助你comply with經(jīng)常令人困惑的政府規(guī)則 - 將是一件大事。提高國家能力既有助于實現(xiàn)法律面前人人平等的承諾，又增強對民主治理的尊重。poorly implemented的服務目前是對政府cynicism的主要驅動因素。
所有這些都是somewhat vague的想法，正如我在本節(jié)開頭所說，我對它們的可行性的信心遠不如對生物學、神經(jīng)科學和減少貧困方面的進展。它們可能是unrealistically烏托邦式的。但重要的是要有一個雄心勃勃的愿景，愿意夢想big并嘗試things out。將AI視為自由、個人權利和法律面前平等的保證人的愿景太強大了，不能不為之奮斗。21世紀支持AI的政體可能既是個人自由的更強大保護者，又是一個希望的燈塔，幫助使自由民主成為全世界都想要采用的政府形式。
工作與意義
即使前四節(jié)中的所有內(nèi)容都進展順利 - 不僅我們緩解了疾并貧困和不平等，而且自由民主成為了主導的政府形式，現(xiàn)有的自由民主國家也變得更好 - 至少還有一個重要問題remain。"我們生活在這樣一個技術先進且公平decent的世界真是太好了，"有人可能會反對說，"但是當AI做everything時，人類如何獲得意義？說到底，他們?nèi)绾卧诮?jīng)濟上survive？"
我認為這個問題比其他問題更難。我不是說我對此necessarily更悲觀than對其他問題（盡管我確實看到挑戰(zhàn)）。我的意思是它更模糊，更難提前預測，因為它涉及社會如何組織的宏觀問題，這些問題往往只能隨著時間以decentralized的方式解決。例如，歷史上的hunter-gatherer社會可能會想象沒有狩獵和各種與狩獵相關的宗教儀式生活是毫無意義的，并且可能會想象我們這個well-fed的技術社會缺乏目的。他們也可能不理解我們的經(jīng)濟如何為每個人提供，或者人們在一個機械化的社會中能夠有用地服務什么功能。
盡管如此，至少值得說幾句話，同時記住這一節(jié)的brevity絕不應該被視為我不認真對待這些問題的標志 - 相反，這是缺乏明確答案的標志。
關于意義的問題，我認為相信你undertake的任務毫無意義simply因為AI可以做得更好，這很可能是一個錯誤。大多數(shù)人并不是世界上任何事情的最佳，這似乎并不特別困擾他們。當然，今天他們?nèi)匀豢梢酝ㄟ^比較優(yōu)勢contribute，并可能從他們產(chǎn)生的經(jīng)濟價值中derive meaning，但人們also greatly enjoy不產(chǎn)生經(jīng)濟價值的活動。我花大量時間玩視頻游戲、游泳、在外面散步、和朋友聊天，所有這些都產(chǎn)生零經(jīng)濟價值。我可能會spend一天試圖在視頻游戲中變得更好，或者更快地騎自行車上山，我并不really care某人somewhere在這些事情上做得much better。無論如何，我認為意義主要來自人際關系和聯(lián)系，而不是經(jīng)濟勞動。人們確實want一種成就感，甚至是競爭感，在后AI世界，花years嘗試一些非常difficul的task with a complex strategy將是完全possible的，類似于人們today when they embark研究項目、試圖成為好萊塢演員或創(chuàng)立公司。事實(a)某處的AI原則上可以做得更好，以及(b)這個任務不再是全球經(jīng)濟中經(jīng)濟獎勵的元素，在我看來并不太重要。
經(jīng)濟部分實際上在我看來比意義部分更difficult。在本節(jié)中，我所說的"經(jīng)濟"是指大多數(shù)或所有人類可能無法為sufficiently advanced的AI驅動經(jīng)濟meaningful contribute的可能問題。這是一個比不平等問題更宏觀的問題，especially獲取新技術的不平等，我在第3節(jié)中討論過這個問題。
首先，在短期內(nèi)，我同意那些認為comparative advantage將繼續(xù)使人類relevant并事實上increase其productivity的argument，甚至可能在某些方面level the playing field between humans。只要AI只是在90%的given job中better，其他10%將導致人類變得highly leveraged，increasing compensation并事實上creating一堆新的人類工作來complement和amplify AI擅長的東西，such that "10%"expands以continue employ almost everyone。事實上，即使AI can do 100%的things better than humans，但在某些任務上remain inefficient或expensive，或者如果人類和AI的resource inputs meaningfully different，那么comparative advantage的邏輯continue to apply。人類可能在significant time內(nèi)maintain相對（甚至絕對）優(yōu)勢的一個area是physical world。因此，我認為人類經(jīng)濟可能會continue to make sense even a little past我們達到"數(shù)據(jù)中心里的天才國度"的point。
然而，我確實認為in the long run AI將變得如此broadly effective和cheap，以至于這將不再適用。At that point我們current的經(jīng)濟setup將不再make sense，需要進行更廣泛的societal conversation about經(jīng)濟應該如何組織。
雖然這可能聽起來crazy，但事實是文明已經(jīng)成功地navigated過去的major經(jīng)濟shifts：從狩獵采集到農(nóng)業(yè)，從農(nóng)業(yè)到封建主義，從封建主義到工業(yè)主義。我懷疑需要一些new and stranger的thing，這是today no one has做得好的設想。It could be as simple as everyone都有一個large universal basic income，盡管我懷疑這只會是solution的一small part。It could be AI系統(tǒng)的資本主義經(jīng)濟，然后根據(jù)一些secondary economy of what AI系統(tǒng)認為在人類中makes sense to reward（based on最終derived from人類價值觀的some judgment）給人類分配資源（huge amounts of them，since overall經(jīng)濟pie將是gigantic）。Perhaps經(jīng)濟runs on Whuffie points。Or perhaps人類will continue to be economically valuable after all，以一些not anticipated by usual經(jīng)濟模型的方式。所有這些solutions都有tons of possible問題，沒有l(wèi)ots of iteration和experimentation就不可能知道它們是否會make sense。And as with其他一些挑戰(zhàn)一樣，我們likely將have to fight to get a good outcome here：exploitative或dystopian方向clearly also possible并且必須被prevented。關于這些問題可以寫much more，我希望在later time這么做。
總結
通過上述各種主題,我試圖描繪出一個愿景 - 如果人工智能一切順利,這個世界既有可能實現(xiàn),又比今天的世界好得多。我不知道這個世界是否現(xiàn)實,即使是現(xiàn)實的,也不會在沒有許多勇敢和dedicated的人付出巨大努力和struggle的情況下實現(xiàn)。每個人(包括AI公司!)都需要盡自己的一份力來預防風險并充分實現(xiàn)收益。
但這是一個值得為之奮斗的世界。如果所有這些真的在5到10年內(nèi)發(fā)生 - 戰(zhàn)勝大多數(shù)疾并生物和認知自由的增長、數(shù)十億人擺脫貧困并分享新技術、自由民主和人權的復興 - 我懷疑每個目睹這一切的人都會驚訝于它對他們的影響。我不是指親身受益于所有新技術的體驗,盡管那肯定會很amazing。我指的是watching一套長期持有的理想突然在我們面前實現(xiàn)的體驗。我認為許多人會被它感動得流淚。
在寫這篇文章的過程中,我注意到一個有趣的tension。從某種意義上說,這里描繪的愿景非常激進:這不是幾乎任何人期望在下一個十年發(fā)生的事情,而且可能會被許多人視為荒謬的幻想。有些人甚至可能不認為它是可取的;它體現(xiàn)了并非每個人都同意的價值觀和政治選擇。但同時,它又有一些顯而易見的東西 - 一些注定的東西 - 好像許多不同的嘗試去設想一個美好的世界inevitably會大致引向這里。
在Iain M. Banks的《The Player of Games》中,主角 - 一個名為Culture的社會成員,這個社會基于與我在這里描述的原則不同的原則 - 前往一個壓抑的、軍國主義的帝國,那里的領導權是通過在一個復雜的戰(zhàn)斗游戲中的競爭來決定的。然而,這個游戲足夠復雜,以至于玩家在游戲中的策略往往反映了他們自己的政治和哲學觀點。主角成功地在游戲中擊敗了皇帝,showing that他的價值觀(Culture的價值觀)代表了一個winning strategy,即使在一個由基于殘酷競爭和適者生存的社會設計的游戲中。Scott Alexander的一篇著名文章有相同的論點 - 競爭是自我挫敗的,并傾向于導致一個基于同情和合作的社會。"道德宇宙的弧線"是另一個類似的概念。
我認為Culture的價值觀是一個winning strategy,因為它們是一百萬個小決定的總和,這些決定具有明確的道德力量,并傾向于將每個人拉到同一邊�；镜娜祟恌airness、合作、好奇心和自主直覺是難以爭辯的,而且是累積的,而我們更具破壞性的沖動往往不是。很容易argue that如果我們能夠預防,兒童就不應該死于疾病,從那里很容易argue that每個人的孩子都同樣應該享有這個權利。從那里不難argue that我們都應該團結起來,運用我們的智慧來實現(xiàn)這個結果。很少有人disagree that人們應該因無故攻擊或傷害他人而受到懲罰,從那里到懲罰應該在人與人之間一致和系統(tǒng)化的想法并不是一個很大的飛躍。人們應該對自己的生活和選擇擁有自主權和責任,這同樣是直觀的。如果將這些簡單的直覺推到邏輯結論,最終會導致法治、民主和啟蒙價值觀。即使不是inevitably,至少作為一種統(tǒng)計趨勢,這就是人類已經(jīng)headed的方向。AI simply提供了一個機會,讓我們更快地到達那里 - 使邏輯更加stark,目的地更加clear。
盡管如此,它是一件超凡脫俗的美麗事物。我們有機會在使它成為現(xiàn)實的過程中發(fā)揮一些小作用。
感謝Kevin Esvelt、Parag Mallick、Stuart Ritchie、Matt Yglesias、Erik Brynjolfsson、Jim McClave、Allan Dafoe和Anthropic的許多人審閱了這篇文章的草稿。
致2024年諾貝爾化學獎獲得者,感謝你們?yōu)槲覀冎该髁说缆贰?/p>
