劃重點(diǎn)
01人工智能有望在5-10年內(nèi)治愈或預(yù)防大多數(shù)精神疾病，提高生活質(zhì)量。
02人工智能發(fā)展將推動(dòng)神經(jīng)科學(xué)領(lǐng)域的進(jìn)步，包括疾病治療、心理健康改善和認(rèn)知功能提升。
03然而，人工智能發(fā)展也可能帶來挑戰(zhàn)，如不平等、財(cái)富分配和選擇退出問題。
04為此，人工智能公司和政策制定者需共同努力，確保發(fā)展中國家受益，實(shí)現(xiàn)全球健康、經(jīng)濟(jì)和糧食安全目標(biāo)。
05另一方面，人工智能在改善和平、民主和自由等方面具有潛力，但實(shí)現(xiàn)這些目標(biāo)仍需人類付出巨大努力。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
Anthropic，OpenAI前研究負(fù)責(zé)人Dario Amodei 成立的AI公司。
這幾天，Dario發(fā)表一篇展望AGI對(duì)世界影響的長文，提出AI將把一個(gè)世紀(jì)的科研進(jìn)展壓縮到5-10年。
原文翻譯如下：
《仁慈的機(jī)器》Machines ofLoving Grace
人工智能如何讓世界變得更美好
2024 年 10 月我經(jīng)常琢磨強(qiáng)人工智能的風(fēng)險(xiǎn)。作為Anthropic的CEO，做了大量關(guān)于如何降低這些風(fēng)險(xiǎn)的研究。所以，人們有時(shí)會(huì)覺得我是個(gè)悲觀派，或者“末日預(yù)言者”，認(rèn)為人工智能帶來的大多是壞處或危險(xiǎn)。我完全不這么想。其實(shí)，我關(guān)注風(fēng)險(xiǎn)的主要原因之一是，只有解決了這些風(fēng)險(xiǎn)，才能迎來我認(rèn)為的，根本上積極的未來。我覺得大多數(shù)人低估了人工智能可能帶來的巨大好處，就像大多數(shù)人低估了風(fēng)險(xiǎn)可能有多糟糕一樣。本文中，我試著描繪一下這種好處可能的樣子如果一切順利，一個(gè)擁有強(qiáng)人工智能的世界會(huì)是什么樣。當(dāng)然，沒人能確切預(yù)知未來，強(qiáng)人工智能的影響可能比過去的技術(shù)變革更難預(yù)測(cè)，所以這一切都不可避免地會(huì)包含一些猜測(cè)。但我至少的目標(biāo)是做出有根據(jù)的、有用的猜測(cè)，即使很多細(xì)節(jié)最終是錯(cuò)的，也能抓住未來發(fā)展的大致方向。我之所以寫這么多細(xì)節(jié)，主要是因?yàn)槲艺J(rèn)為具體的設(shè)想比高度回避和抽象的描述更有利于推進(jìn)討論。不過，首先，我想簡單解釋一下為什么我和 Anthropic 沒有過多談?wù)搹?qiáng)人工智能的益處，以及為什么我們總體上可能會(huì)繼續(xù)更多地談?wù)擄L(fēng)險(xiǎn)。具體來說，我做出這個(gè)選擇是出于以下幾個(gè)考慮：最大化影響力。人工智能技術(shù)的基本發(fā)展及其諸多（并非所有）好處似乎是不可避免的（除非風(fēng)險(xiǎn)毀掉一切），而且從根本上是由強(qiáng)大的市場(chǎng)力量驅(qū)動(dòng)的。另一方面，風(fēng)險(xiǎn)不是注定的，我們的行動(dòng)可以極大地改變風(fēng)險(xiǎn)發(fā)生的可能性。避免被認(rèn)為是宣傳。人工智能公司如果成天鼓吹人工智能的好處，可能會(huì)讓人覺得像是在做宣傳，或者像是在試圖掩蓋它的缺點(diǎn)。我也認(rèn)為，原則上，花太多時(shí)間“王婆賣瓜，自賣自夸”對(duì)你的靈魂不好。避免自命不凡。我經(jīng)常很反感一些人工智能風(fēng)險(xiǎn)領(lǐng)域的公眾人物（更不用說人工智能公司領(lǐng)導(dǎo)）談?wù)摵?AGI（通用人工智能）世界的方式，好像他們的使命是像先知引導(dǎo)信徒走向救贖一樣，單槍匹馬地創(chuàng)造未來。我認(rèn)為把公司視為單方面塑造世界的力量是危險(xiǎn)的，把實(shí)際的技術(shù)目標(biāo)用近乎宗教的口吻來描述也是危險(xiǎn)的。避免“科幻”色彩。雖然我覺得大多數(shù)人低估了強(qiáng)人工智能的優(yōu)勢(shì)，但確實(shí)討論過激進(jìn)人工智能未來的人，通常會(huì)用一種過于“科幻”的口吻 (比如，上傳意識(shí)、太空探索，或者一股賽博朋克風(fēng))。我覺得這會(huì)導(dǎo)致人們不把這些說法當(dāng)回事，覺得它們不切實(shí)際。說白了，問題不在于這些技術(shù)是否可能或大概率會(huì)實(shí)現(xiàn)（正文會(huì)詳細(xì)討論這一點(diǎn)）更多的是這種“氛圍”暗藏著許多文化包袱和未說明的假設(shè)，比如什么樣的未來才是好的，各種社會(huì)問題會(huì)如何發(fā)展等等。最終往往會(huì)讀起來像是一小撮亞文化群體的幻想，而讓大多數(shù)人感到反感。盡管有以上顧慮，但我真的覺得我們有必要討論一下，一個(gè)擁有強(qiáng)人工智能的美好世界應(yīng)該是什么樣，同時(shí)要盡力避免以上那些問題。其實(shí)，我覺得擁有一幅真正鼓舞人心的未來圖景至關(guān)重要，而不僅僅是一個(gè)應(yīng)對(duì)危機(jī)的方案。強(qiáng)人工智能的很多影響確實(shí)具有對(duì)抗性或危險(xiǎn)性，但歸根結(jié)底，我們必須有為之奮斗的目標(biāo)，有一些能讓每個(gè)人都過得更好的雙贏結(jié)果，有一些能團(tuán)結(jié)大家，讓人們放下爭(zhēng)吵，共同應(yīng)對(duì)未來挑戰(zhàn)的東西�？謶质且环N動(dòng)力，但這還不夠：我們還需要希望。強(qiáng)人工智能的積極應(yīng)用清單很長（包括機(jī)器人、制造業(yè)、能源等等），但我準(zhǔn)備重點(diǎn)討論幾個(gè)在我看來最有可能直接改善人類生活質(zhì)量的領(lǐng)域。我最感興趣的五個(gè)方向是：
1.生物學(xué)和身體健康
2.神經(jīng)科學(xué)和心理健康
3.經(jīng)濟(jì)發(fā)展和扶貧
4.和平與治理
5.工作和意義我的預(yù)測(cè)用大多數(shù)標(biāo)準(zhǔn)來看（科幻“奇點(diǎn)”之類的設(shè)想除外），都會(huì)顯得比較激進(jìn)，但我表達(dá)得很認(rèn)真、很真誠。我說的每一點(diǎn)都可能出錯(cuò)（再說一遍我之前的觀點(diǎn)），但我至少嘗試用對(duì)各個(gè)領(lǐng)域發(fā)展速度以及實(shí)際意義的分析評(píng)估作為基矗我很幸運(yùn)在生物學(xué)和神經(jīng)科學(xué)領(lǐng)域都有專業(yè)經(jīng)驗(yàn)，在經(jīng)濟(jì)發(fā)展領(lǐng)域也算是個(gè)比較資深的愛好者，但我肯定還是會(huì)犯很多錯(cuò)誤。寫這篇文章讓我意識(shí)到，找一幫各領(lǐng)域的專家（生物學(xué)、經(jīng)濟(jì)學(xué)、國際關(guān)系等等）一起合作，寫一個(gè)比我寫得更好、更專業(yè)的版本會(huì)很有價(jià)值。最好把我的這篇文章看作是這個(gè)團(tuán)隊(duì)的初步構(gòu)思。基本假設(shè)和框架為了讓整篇文章更準(zhǔn)確、更扎實(shí)，我們需要明確“強(qiáng)人工智能”（也就是 5-10 年倒計(jì)時(shí)開始的節(jié)點(diǎn)）指的是什么，以及建立一個(gè)思考這種人工智能出現(xiàn)后的影響的框架。強(qiáng)人工智能（我不喜歡 AGI這個(gè)詞）會(huì)是什么樣子，以及它什么時(shí)候（或者是否）會(huì)出現(xiàn)，這本身就是一個(gè)很大的話題。我之前公開討論過這個(gè)問題，也可以專門寫一篇文章（我以后可能會(huì)寫）。顯然，很多人懷疑強(qiáng)人工智能能不能很快造出來，有些人甚至懷疑它能不能造出來。我覺得它最早 2026 年就能出現(xiàn)，當(dāng)然也可能會(huì)晚很多。但就本文而言，我想先把這些問題放一邊，假設(shè)它很快就會(huì)出現(xiàn)，重點(diǎn)討論它出現(xiàn)之后 5-10 年會(huì)發(fā)生什么。我還想預(yù)設(shè)一下這種人工智能系統(tǒng)的樣子、它的能力以及它的交互方式，即使在這個(gè)問題上存在分歧。我說的強(qiáng)人工智能，是指一種人工智能模型形式上可能類似于現(xiàn)在的大型語言模型（LLM），雖然它可能基于不同的架構(gòu)，可能包含幾個(gè)相互作用的模型，訓(xùn)練方式也可能不一樣它有以下幾個(gè)特點(diǎn)：單從智力來看，它在大多數(shù)相關(guān)領(lǐng)域生物學(xué)、編程、數(shù)學(xué)、工程、寫作等等都比諾貝爾獎(jiǎng)得主聰明。這意味著它可以證明未解決的數(shù)學(xué)定理，寫出特別優(yōu)秀的小說，從零開始寫復(fù)雜的代碼，等等。它不只是一個(gè)“能跟你聊天的聰明東西”，它還擁有所有人類在虛擬世界工作時(shí)能用的“交互方式”，包括文字、音頻、視頻、鼠標(biāo)鍵盤控制，以及上網(wǎng)。它可以進(jìn)行任何這種交互方式支持的操作、溝通或者遠(yuǎn)程操控，包括在網(wǎng)上做事，給人下指令或者接受指令，訂購材料，指導(dǎo)實(shí)驗(yàn)，看視頻，制作視頻，等等。它完成所有這些任務(wù)的水平，都遠(yuǎn)超世界頂尖的人類。它不只是被動(dòng)地回答問題；它可以被分配需要幾個(gè)小時(shí)、幾天甚至幾周才能完成的任務(wù)，然后像一個(gè)聰明的員工一樣獨(dú)立完成這些任務(wù)，需要的時(shí)候還會(huì)問問題。它沒有實(shí)體（除了在電腦屏幕上），但它可以通過電腦控制現(xiàn)有的實(shí)體工具、機(jī)器人或者實(shí)驗(yàn)室設(shè)備；理論上，它甚至可以給自己設(shè)計(jì)機(jī)器人或設(shè)備來用。訓(xùn)練這個(gè)模型用的資源，可以用來運(yùn)行它的數(shù)百萬個(gè)副本（這跟預(yù)計(jì)到 2027 年的集群規(guī)模差不多），這個(gè)模型吸收信息和做出行動(dòng)的速度大概是人類的 10 到 100 倍。不過，它可能會(huì)受到物理世界或者它交互的軟件的響應(yīng)速度的限制。人工智能時(shí)代，我們應(yīng)該討論智能的額外收益，并弄清楚哪些其他因素能跟智能互補(bǔ)，哪些因素會(huì)在智能很高的時(shí)候成為瓶頸。我們不習(xí)慣這么想問題問“更聰明對(duì)這個(gè)任務(wù)有多大幫助，在什么時(shí)間尺度上有幫助？”但這似乎才是思考強(qiáng)人工智能世界的好方法。
