劃重點
01人工智能有望在5-10年內(nèi)治愈或預(yù)防大多數(shù)精神疾病,提高生活質(zhì)量。
02人工智能發(fā)展將推動神經(jīng)科學(xué)領(lǐng)域的進步,包括疾病治療、心理健康改善和認知功能提升。
03然而,人工智能發(fā)展也可能帶來挑戰(zhàn),如不平等、財富分配和選擇退出問題。
04為此,人工智能公司和政策制定者需共同努力,確保發(fā)展中國家受益,實現(xiàn)全球健康、經(jīng)濟和糧食安全目標。
05另一方面,人工智能在改善和平、民主和自由等方面具有潛力,但實現(xiàn)這些目標仍需人類付出巨大努力。
以上內(nèi)容由騰訊混元大模型生成,僅供參考
Anthropic,OpenAI前研究負責(zé)人Dario Amodei 成立的AI公司。
這幾天,Dario發(fā)表一篇展望AGI對世界影響的長文,提出AI將把一個世紀的科研進展壓縮到5-10年。
原文翻譯如下:
《仁慈的機器》Machines ofLoving Grace
人工智能如何讓世界變得更美好
2024 年 10 月我經(jīng)常琢磨強人工智能的風(fēng)險。作為Anthropic的CEO,做了大量關(guān)于如何降低這些風(fēng)險的研究。所以,人們有時會覺得我是個悲觀派,或者“末日預(yù)言者”,認為人工智能帶來的大多是壞處或危險。我完全不這么想。其實,我關(guān)注風(fēng)險的主要原因之一是,只有解決了這些風(fēng)險,才能迎來我認為的,根本上積極的未來。我覺得大多數(shù)人低估了人工智能可能帶來的巨大好處,就像大多數(shù)人低估了風(fēng)險可能有多糟糕一樣。本文中,我試著描繪一下這種好處可能的樣子如果一切順利,一個擁有強人工智能的世界會是什么樣。當(dāng)然,沒人能確切預(yù)知未來,強人工智能的影響可能比過去的技術(shù)變革更難預(yù)測,所以這一切都不可避免地會包含一些猜測。但我至少的目標是做出有根據(jù)的、有用的猜測,即使很多細節(jié)最終是錯的,也能抓住未來發(fā)展的大致方向。我之所以寫這么多細節(jié),主要是因為我認為具體的設(shè)想比高度回避和抽象的描述更有利于推進討論。不過,首先,我想簡單解釋一下為什么我和 Anthropic 沒有過多談?wù)搹娙斯ぶ悄艿囊嫣?/strong>,以及為什么我們總體上可能會繼續(xù)更多地談?wù)擄L(fēng)險。具體來說,我做出這個選擇是出于以下幾個考慮:最大化影響力。人工智能技術(shù)的基本發(fā)展及其諸多(并非所有)好處似乎是不可避免的(除非風(fēng)險毀掉一切),而且從根本上是由強大的市場力量驅(qū)動的。另一方面,風(fēng)險不是注定的,我們的行動可以極大地改變風(fēng)險發(fā)生的可能性。避免被認為是宣傳。人工智能公司如果成天鼓吹人工智能的好處,可能會讓人覺得像是在做宣傳,或者像是在試圖掩蓋它的缺點。我也認為,原則上,花太多時間“王婆賣瓜,自賣自夸”對你的靈魂不好。避免自命不凡。我經(jīng)常很反感一些人工智能風(fēng)險領(lǐng)域的公眾人物(更不用說人工智能公司領(lǐng)導(dǎo))談?wù)摵?AGI(通用人工智能)世界的方式,好像他們的使命是像先知引導(dǎo)信徒走向救贖一樣,單槍匹馬地創(chuàng)造未來。我認為把公司視為單方面塑造世界的力量是危險的,把實際的技術(shù)目標用近乎宗教的口吻來描述也是危險的。避免“科幻”色彩。雖然我覺得大多數(shù)人低估了強人工智能的優(yōu)勢,但確實討論過激進人工智能未來的人,通常會用一種過于“科幻”的口吻 (比如,上傳意識、太空探索,或者一股賽博朋克風(fēng))。我覺得這會導(dǎo)致人們不把這些說法當(dāng)回事,覺得它們不切實際。說白了,問題不在于這些技術(shù)是否可能或大概率會實現(xiàn)(正文會詳細討論這一點)更多的是這種“氛圍”暗藏著許多文化包袱和未說明的假設(shè),比如什么樣的未來才是好的,各種社會問題會如何發(fā)展等等。最終往往會讀起來像是一小撮亞文化群體的幻想,而讓大多數(shù)人感到反感。盡管有以上顧慮,但我真的覺得我們有必要討論一下,一個擁有強人工智能的美好世界應(yīng)該是什么樣,同時要盡力避免以上那些問題。其實,我覺得擁有一幅真正鼓舞人心的未來圖景至關(guān)重要,而不僅僅是一個應(yīng)對危機的方案。強人工智能的很多影響確實具有對抗性或危險性,但歸根結(jié)底,我們必須有為之奮斗的目標,有一些能讓每個人都過得更好的雙贏結(jié)果,有一些能團結(jié)大家,讓人們放下爭吵,共同應(yīng)對未來挑戰(zhàn)的東西?謶质且环N動力,但這還不夠:我們還需要希望。強人工智能的積極應(yīng)用清單很長(包括機器人、制造業(yè)、能源等等),但我準備重點討論幾個在我看來最有可能直接改善人類生活質(zhì)量的領(lǐng)域。我最感興趣的五個方向是:
1.生物學(xué)和身體健康
2.神經(jīng)科學(xué)和心理健康
3.經(jīng)濟發(fā)展和扶貧
4.和平與治理
5.工作和意義我的預(yù)測用大多數(shù)標準來看(科幻“奇點”之類的設(shè)想除外),都會顯得比較激進,但我表達得很認真、很真誠。我說的每一點都可能出錯(再說一遍我之前的觀點),但我至少嘗試用對各個領(lǐng)域發(fā)展速度以及實際意義的分析評估作為基矗我很幸運在生物學(xué)和神經(jīng)科學(xué)領(lǐng)域都有專業(yè)經(jīng)驗,在經(jīng)濟發(fā)展領(lǐng)域也算是個比較資深的愛好者,但我肯定還是會犯很多錯誤。寫這篇文章讓我意識到,找一幫各領(lǐng)域的專家(生物學(xué)、經(jīng)濟學(xué)、國際關(guān)系等等)一起合作,寫一個比我寫得更好、更專業(yè)的版本會很有價值。最好把我的這篇文章看作是這個團隊的初步構(gòu)思;炯僭O(shè)和框架為了讓整篇文章更準確、更扎實,我們需要明確“強人工智能”(也就是 5-10 年倒計時開始的節(jié)點)指的是什么,以及建立一個思考這種人工智能出現(xiàn)后的影響的框架。強人工智能(我不喜歡 AGI這個詞)會是什么樣子,以及它什么時候(或者是否)會出現(xiàn),這本身就是一個很大的話題。我之前公開討論過這個問題,也可以專門寫一篇文章(我以后可能會寫)。顯然,很多人懷疑強人工智能能不能很快造出來,有些人甚至懷疑它能不能造出來。我覺得它最早 2026 年就能出現(xiàn),當(dāng)然也可能會晚很多。但就本文而言,我想先把這些問題放一邊,假設(shè)它很快就會出現(xiàn),重點討論它出現(xiàn)之后 5-10 年會發(fā)生什么。我還想預(yù)設(shè)一下這種人工智能系統(tǒng)的樣子、它的能力以及它的交互方式,即使在這個問題上存在分歧。我說的強人工智能,是指一種人工智能模型形式上可能類似于現(xiàn)在的大型語言模型(LLM),雖然它可能基于不同的架構(gòu),可能包含幾個相互作用的模型,訓(xùn)練方式也可能不一樣它有以下幾個特點:單從智力來看,它在大多數(shù)相關(guān)領(lǐng)域生物學(xué)、編程、數(shù)學(xué)、工程、寫作等等都比諾貝爾獎得主聰明。這意味著它可以證明未解決的數(shù)學(xué)定理,寫出特別優(yōu)秀的小說,從零開始寫復(fù)雜的代碼,等等。它不只是一個“能跟你聊天的聰明東西”,它還擁有所有人類在虛擬世界工作時能用的“交互方式”,包括文字、音頻、視頻、鼠標鍵盤控制,以及上網(wǎng)。它可以進行任何這種交互方式支持的操作、溝通或者遠程操控,包括在網(wǎng)上做事,給人下指令或者接受指令,訂購材料,指導(dǎo)實驗,看視頻,制作視頻,等等。它完成所有這些任務(wù)的水平,都遠超世界頂尖的人類。它不只是被動地回答問題;它可以被分配需要幾個小時、幾天甚至幾周才能完成的任務(wù),然后像一個聰明的員工一樣獨立完成這些任務(wù),需要的時候還會問問題。它沒有實體(除了在電腦屏幕上),但它可以通過電腦控制現(xiàn)有的實體工具、機器人或者實驗室設(shè)備;理論上,它甚至可以給自己設(shè)計機器人或設(shè)備來用。訓(xùn)練這個模型用的資源,可以用來運行它的數(shù)百萬個副本(這跟預(yù)計到 2027 年的集群規(guī)模差不多),這個模型吸收信息和做出行動的速度大概是人類的 10 到 100 倍。不過,它可能會受到物理世界或者它交互的軟件的響應(yīng)速度的限制。人工智能時代,我們應(yīng)該討論智能的額外收益,并弄清楚哪些其他因素能跟智能互補,哪些因素會在智能很高的時候成為瓶頸。我們不習(xí)慣這么想問題問“更聰明對這個任務(wù)有多大幫助,在什么時間尺度上有幫助?”但這似乎才是思考強人工智能世界的好方法。