文：Web3天空之城 城主
一段時間不見，OpenAI的首席執(zhí)行官Sam Altman回歸OpenAI后面對面訪談的一個完整視頻被發(fā)布。在Greg休假，Ilya新公司成立，OpenAI持續(xù)虧損和新融資消息傳出的現(xiàn)在，正當(dāng)時。
這次訪談還是著名主持人崔娃Trevor主持的，有點意外的是Trevor對AI科技有挺深入的理解，比95%的非技術(shù)主持人都要強(qiáng)。
在這次訪談中，Trevor和Sam展開了一場廣泛的對話，探討了人工智能，OpenAI以及Sam個人的職業(yè)生涯和心路歷程。Sam從他的重返OpenAI事件切入，分享了自己如何在一系列混亂和不確定中反思個人與公司使命的關(guān)系，并且談到了AGI的未來發(fā)展方向。
Sam 不僅詳細(xì)闡述了AGI在認(rèn)知、生產(chǎn)力和社會效應(yīng)上的巨大潛力，還針對性地回應(yīng)了AI安全性、倫理問題、資本主義的權(quán)衡與技術(shù)革命的挑戰(zhàn)。同時，他坦誠討論了自己對OpenAI公司治理的思考，如何平衡技術(shù)進(jìn)步與社會責(zé)任，并強(qiáng)調(diào)了透明性與民主化技術(shù)治理的重要性。
重新掌舵OpenAI的歷程：Sam Altman回顧了他短暫的離職經(jīng)歷，并分享了如何在這段動蕩中重新認(rèn)識自己對OpenAI及其使命的熱愛。盡管他短暫被解雇，他強(qiáng)調(diào)自己從中汲取了深刻的經(jīng)驗，并深感繼續(xù)推進(jìn)AGI發(fā)展的重要性。
AGI的未來與技術(shù)革命：Sam Altman堅信AGI將帶來前所未有的技術(shù)革命，盡管社會和經(jīng)濟(jì)的變化可能不會如預(yù)期迅速。他認(rèn)為，盡管技術(shù)將越來越接近AGI，但其對社會的實際影響將是漸進(jìn)的，允許社會逐步適應(yīng)新科技所帶來的變化。
資本主義與AI的平衡：訪談中，Sam Altman詳細(xì)討論了OpenAI如何在資本主義體制下運行，同時保持其創(chuàng)建時的初衷，即確保AGI的利益廣泛分配。盡管OpenAI需要在資本主義中競爭以獲得發(fā)展所需的資源，他強(qiáng)調(diào)，技術(shù)進(jìn)步不應(yīng)以犧牲倫理與社會責(zé)任為代價。
AI的民主治理與社會影響：Sam Altman提出了一個重要觀點，即AI技術(shù)治理應(yīng)更加民主化。他相信，公眾應(yīng)更多參與決定AI系統(tǒng)的使用方式和規(guī)則設(shè)定，并強(qiáng)調(diào)了技術(shù)透明性和多樣化治理的重要性。
對AI安全性和倫理的擔(dān)憂：訪談中，Sam Altman坦言，盡管AI有著巨大的潛力，但也有很多潛在的安全隱患。他特別指出了AI在計算機(jī)安全、合成生物學(xué)等方面的風(fēng)險，并呼吁社會應(yīng)當(dāng)以負(fù)責(zé)任的方式推進(jìn)技術(shù)發(fā)展。
關(guān)于人工智能的更廣泛愿景：Sam Altman對未來充滿了樂觀。他認(rèn)為，隨著AGI的成熟，每個人都將擁有更多機(jī)會去追求個人興趣，并且技術(shù)將極大改善全球教育和醫(yī)療水平。盡管技術(shù)革新將帶來工作和社會模式的改變，他認(rèn)為，最終人類精神和創(chuàng)造力將推動我們進(jìn)入一個更繁榮的未來。
Trevor：
謝謝你抽時間接受采訪。
Sam:謝謝。
Trevor：你不覺得現(xiàn)在是一個瘋狂的時間嗎？
Sam：感覺是我所經(jīng)歷的最瘋狂的時刻。
Trevor：
是啊，你處在這一切的中心。我想知道那種感覺是什么樣的。因為我只是這個領(lǐng)域和這個世界的一名狂熱觀察者，你知道嗎？我感覺你是受到這一切影響的人。我指的是，Sam Altman進(jìn)入了《時代》雜志年度人物的候選名單。
Sam：很高興沒有得到那個。
Trevor：很高興沒得到？
Sam：是的，當(dāng)然。
Trevor：為什么？
Sam：今年我已經(jīng)比我整個生命中都得到更多的關(guān)注了。
Trevor：好吧，好吧。所以你不喜歡關(guān)注？你不想要關(guān)注？
Sam：
不，這太殘酷了。在某些方面這很有趣。在某些方面這很有用。但對個人生活而言，生活質(zhì)量的權(quán)衡上。是啊，絕對不喜歡。但這就是現(xiàn)在的情況了。這是我簽約的內(nèi)容。
Trevor：對，現(xiàn)在是惡名昭著的時候了。
Sam：是的。
Trevor：人們在街上會認(rèn)出你嗎？
Sam：這是一個非常糟糕的權(quán)衡。是的，我覺得你永遠(yuǎn)… 我肯定你也會遇到這種情況，但我再也無法保持匿名了。
Trevor：是的，但是人們不會問我關(guān)于未來的問題。
Sam：他們不會問你是否會毀滅世界。沒錯。有一點點區(qū)別。人們可能會想跟我合影。這就是它的程度了。很多合影。
Trevor：好吧，恭喜你。你是《時代》雜志的年度CEO。
Sam：是的。
Trevor：
這可能是最奇怪的時刻之一，因為我猜是在《時代》雜志做出這個決定的時候。幾周前，你可能還不是年度CEO。我不知道他們是否還能給你這個獎。我猜這是為了你之前的工作。
Sam：是的，我不知道。我不知道這是怎么運作的。
Trevor：重新?lián)蜟EO的感覺如何？
Sam：
我仍然在重編現(xiàn)實，老實說。從某種意義上說，這感覺很棒，因為在整個過程中，我學(xué)到了很多關(guān)于我有多愛這家公司、使命和員工的東西。而且，在整個過程中，我經(jīng)歷了幾次，短時間內(nèi)體驗了全部的人類情感。但對我來說，一個非常清晰的時刻是，這一切都發(fā)生在星期五的下午，星期五中午。第二天早上，星期六，幾位董事會成員打電話給我，詢問是否愿意討論回歸的問題。
對此，我的感受非常復(fù)雜。但最終，我非常清晰地意識到，我愿意回歸。
我真的很愛這個地方和我們正在做的事情。我認(rèn)為這對世界很重要，這也是我最關(guān)心的事情。
Trevor：
在科技領(lǐng)域，招聘和解雇是每個人都必須習(xí)慣的事情。
我知道在過去，你曾在Y Combinator被解雇。每個人在這種情況下都有一個故事。
Sam：我不想說這個。
Trevor：告訴我，告訴我。這些事情，你做研究，然后從那里開始。
Sam：
我大約在（離開YC）一年前就決定我想來OpenAI。
那是一個復(fù)雜的過渡過程。但我一直在同時做OpenAI和YC的工作，而且非常確定我想來OpenAI。我從沒后悔過這一點。
Trevor：那么你從來沒有被解雇過。作為一個人，這是一種艱難的處境。
Sam：這算解雇嗎？
Trevor：如果你被解雇后立刻又被重新聘用呢？
Sam：我本來要說的不僅僅是……這實在是殘酷……我猜我現(xiàn)在不應(yīng)該談?wù)撨@個。
這是一件非常痛苦的事情。對我個人來說，作為一個人，這感覺非常不公平，處理方式真的很不公。
Trevor：
我可以想象。很多人會談?wù)摫唤夤汀?/p>
在疫情期間，這變成了一種趨勢，尤其是人們會談?wù)撌盏揭环忄]件或一段群發(fā)的視頻，然后就有成千上萬的員工被解雇。
你很少想到這會發(fā)生在公司的CEO身上。更甚者，你不會想到這會發(fā)生在被許多人稱為這一代和未來的“史蒂夫喬布斯”的CEO身上。
順便說一句，你不會這么稱呼自己。
Sam：當(dāng)然不會。
Trevor：
很多人是這么評價你的，但我覺得稱你為這代人的斯蒂夫喬布斯是不公平的。在我看來，你是這代人的普羅米修斯。你真的就是。
在我看來，你仿佛從神那里盜取了火焰。你處于這一變革的前沿，我們現(xiàn)在所經(jīng)歷的時代，AI曾是科幻和傳奇中的東西，而你現(xiàn)在是可能永遠(yuǎn)改變文明的前沿代表。
你認(rèn)為未來會全面改變嗎？
Sam：
我認(rèn)為會。
我完全有可能對我接下來要說的內(nèi)容理解錯誤，但我的感覺是我們會構(gòu)建出某種幾乎所有人都同意的東西，即AGI。定義通用人工智能（AGI）非常困難，但我們會構(gòu)建出一個讓人們看到后會說“好吧，你們做到了”的系統(tǒng)。這個系統(tǒng)就是通用人工智能，即一個具有人類水平或超越人類水平的系統(tǒng)。
Trevor：
在詳細(xì)解釋之前，你認(rèn)為人們對AI的認(rèn)知和人工通用智能之間的最大區(qū)別是什么
Sam：
隨著我們越來越接近這個領(lǐng)域，如何定義它變得非常重要，這里面也存在差異。對一些人來說，AGI指的是一個能夠完成當(dāng)前人類工作中一些重要部分的系統(tǒng)。當(dāng)然，我們會找到新的工作和新的事情去做。但對另一些人來說，AGI指的是一個能夠幫助發(fā)現(xiàn)新科學(xué)知識的系統(tǒng)。這些顯然是非常不同的里程碑，對世界的影響也非常不同。
盡管我已經(jīng)對這個術(shù)語感到厭倦，甚至都無法不再使用它，但有個原因讓我不再喜歡這個術(shù)語。這個術(shù)語是AGI。我認(rèn)為對大多數(shù)人來說，它現(xiàn)在的意思只是非常智能的AI，但除此之外，它變得非常模糊了。我覺得主要是因為我們越來越接近了。
我要嘗試說的是，我們將要創(chuàng)造AGI，無論你怎么稱呼它。至少在短期和中期內(nèi)，它對世界的改變將遠(yuǎn)小于人們想象。在短期內(nèi)，我認(rèn)為社會具有很大的慣性，經(jīng)濟(jì)具有很大的慣性，人們生活的方式也具有很大的慣性。這可能是健康的，對我們管理這一過渡是有益的。我們都以某種方式做事，而且我們習(xí)慣了這種方式。社會作為一個超級有機(jī)體也以某種方式行事，而且也習(xí)慣了這種方式。
看看GPT-4所發(fā)生的事情，我認(rèn)為這是有教益的。當(dāng)我們首次推出它時，人們有過一陣真正的驚慌時刻，他們說：“哇，我沒想到這會發(fā)生。”但隨后他們繼續(xù)過著自己的生活。它確實改變了一些事情，人們確實在使用它。這是一種比沒有更好的技術(shù)。當(dāng)然，GPT-4不是很好，5、6、7，無論哪一個，都將會好得多。但是，ChatGPT界面的第4版，我認(rèn)為是很多人從不認(rèn)真對待到非常認(rèn)真對待的時刻。然而，生活還在繼續(xù)。
Trevor：
你認(rèn)為這是對人類和社會有益的嗎？生活就應(yīng)該這樣繼續(xù)下去嗎？作為這個產(chǎn)品的“父親”之一，這個想法的“父母”之一，你希望我們所有人停下來，花點時間，評估一下我們現(xiàn)在所處的位置嗎？
Sam：
我認(rèn)為人類個體和整體的韌性非常了不起。我非常高興我們擁有吸收和適應(yīng)新技術(shù)、新變化的能力，并且讓這些變得仿佛成為世界的一部分。這真的很美妙。
我認(rèn)為COVID是一個最近的例子，我們看到了這一點。世界適應(yīng)得很快，然后很快就感覺很正常了。還有一個不是很嚴(yán)肅但卻有啟發(fā)性的例子，就是那一堆關(guān)于UFO的新聞。這是幾年前的事情了。我的很多朋友會說，也許那些是真的UFO或外星人什么的，曾經(jīng)是徹底懷疑論者的人。然而他們第二天依然去上班，和孩子們玩耍。
Trevor：是的，我想，你還能做什么呢？如果他們在飛，他們就在飛。
那么，我希望我們花更多時間來評估進(jìn)展嗎？我們作為一個世界正在這樣做，我認(rèn)為那很棒。我堅信這些技術(shù)的迭代部署非常重要。我們不希望在秘密的實驗室里開發(fā)出人工通用智能（AGI），沒有人知道它的到來，然后一下子把它投放到世界上，讓人們不得不說，哼，我們在這里，如此……
Trevor：
你認(rèn)為我們必須逐漸適應(yīng)它，并隨著它作為一種技術(shù)而成長嗎？
Sam：
是的。
因此，現(xiàn)在的對話中，社會、我們的領(lǐng)導(dǎo)者和我們的機(jī)構(gòu)在實際使用這些技術(shù)時，感受到它能做什么，不能做什么，風(fēng)險在哪里，好處在哪里，我認(rèn)為這很棒。我認(rèn)為從某種意義上說，我們?yōu)槲覀兊氖姑龅淖詈玫氖虑榛蛟S就是迭代部署策略。我們本可以在秘密中構(gòu)建它，并花上更多年的時間來打造它，然后一下子推出，那會很糟糕。
Trevor：
今天我們走進(jìn)了OpenAI的大樓，有點像一個堡壘，感覺像是未來的家。我看到你有一篇帖子說你作為客人進(jìn)來了。
我當(dāng)時想，天啊，那真是怪異。就像是回家，但又不是家，但又是家。
Sam：
感覺應(yīng)該是一個非常奇怪的時刻，像是在這里戴上客人徽章。但我感覺，每個人都很疲憊，充滿了腎上腺素。真的沒有那種我希望的重大時刻感。那天確實有一些值得反思和講述的時刻。比如，我最自豪的時刻之一是，當(dāng)時我非常疲憊且分心。我們以為董事會那天會讓我重新?lián)蜟EO，但以防萬一他們沒有，我接受了L3的面試，這是我們最低級別的軟件工程師職位，由我們最優(yōu)秀的人之一面試。然后，他給了我一個肯定的答復(fù)。那是一個非常自豪的時刻。
那天記憶中突出的部分是，我還有那個技能。雖然徽章沒有我想要的那么深刻。
Trevor：
我很想知道你認(rèn)為我作為CEO做對了什么，從而獲得了我們公開看到的來自O(shè)penAI員工的支持。
當(dāng)這件事曝光時，我不會問你細(xì)節(jié)，因為我知道你不能評論內(nèi)部調(diào)查的內(nèi)容。但我知道你可以大致談?wù)劰镜恼w感覺和最近發(fā)生的事情。我們很少看到像OpenAI那樣展開的情況。你有這家公司和這個想法，對地球上的大多數(shù)人來說，這個想法在一分鐘內(nèi)還不存在。下一分鐘，你發(fā)布了ChatGPT，這個簡單的提示，只是一個小小的聊天框，就改變了世界。我認(rèn)為你在有史以來最快的時間內(nèi)達(dá)到了100萬用戶。我想是五天。是的，五天。然后它迅速達(dá)到了1億人。
非常快地，我從一個軼事層面上知道，對我來說，這東西從世界上沒人知道變成了人人皆知。我在向人們解釋，試圖讓他們理解。我必須像展示詩歌和一些簡單他們能理解的東西那樣展示給他們。然后人們開始告訴我這件事�，F(xiàn)在它變成了一個無所不在的概念，人們在努力弄明白它是什么以及它意味著什么。
但另一方面，有這樣一家公司試圖以某種方式掌控和塑造未來。而且人們支持你。我們看到故事，Sam Altman 出局，不再擔(dān)任 CEO。然后一切都在動蕩。我不知道你是否看過一些傳言。它們簡直瘋狂。我看到的最瘋狂的事情之一是有人說，這是既荒誕又有趣。他們說，我從可靠消息來源得知，Sam 因為嘗試與 AI 發(fā)生性關(guān)系而被解雇。
Sam：
我甚至不知道該如何回應(yīng)。我看到那條消息時，我就像... 我想在這個時候，我應(yīng)該正式否認(rèn)這件事，這根本沒有發(fā)生。
Trevor：
我認(rèn)為這種情況不太可能發(fā)生，因為人們不理解這兩者的結(jié)合。但讓我震驚的是，這次事件的轟動性似乎在不同的時刻把OpenAI帶入了另一個聚光燈下。
其中一個大事件就是你從團(tuán)隊中獲得的支持，有人站出來說，不管發(fā)生什么，我們都會支持Sam。這種情況在公司里并不常見。通常CEO和員工在某種程度上是脫節(jié)的。
但這感覺不只是一個團(tuán)隊。
Sam：
接下來說的并不是假謙虛。有很多地方我愿意接受很多贊譽(yù)。不過在這件事上，除了作為一個代言人，這并不完全是我的功勞。但我認(rèn)為我們做得很好的一點是我們有一個讓人們真正相信其重要性的使命。
我認(rèn)為發(fā)生的事情是，人們意識到我們?nèi)绱伺ぷ鞑⑷〉萌绱诉M(jìn)展的任務(wù)、組織和團(tuán)隊，但還有很多事情要做，就像那樣受到了真正的威脅。我想，那就是引發(fā)反應(yīng)的原因。這真的不是關(guān)于我個人，盡管希望大家喜歡我并認(rèn)為我做得很好。這關(guān)乎我們所有人所感受到的共同忠誠，以及完成任務(wù)的責(zé)任感，并希望最大化我們實現(xiàn)這一目標(biāo)的機(jī)會。
Trevor：
從最高層次來看，您認(rèn)為任務(wù)是什么？是達(dá)到通用人工智能嗎？
Sam：
讓AGI的利益盡可能廣泛地分布，并成功應(yīng)對所有的安全挑戰(zhàn)。
Trevor：
這是一個有趣的第二點。我很樂意稍后與您聊聊，更深入討論其中的安全問題。當(dāng)你看OpenAI這家組織時，它的誕生確實很奇怪。如果我說錯了你隨時糾正我，但是，似乎它的創(chuàng)立非常注重安全性。你召集了一群人然后你說，我們想要創(chuàng)辦一個組織、一家公司、一個集體，致力于創(chuàng)造出最具倫理的人工智能，造福社會。你可以看到，甚至在公司的利潤分配、投資者獲得利潤的方式等方面都有所體現(xiàn)。
但是，甚至連OpenAI在某個點上也發(fā)生了變化。你認(rèn)為你能抵擋資本主義的力量嗎？我是說，這其中涉及的資金太多了。你認(rèn)為你能真正保持一個不以金錢定義你正在做什么和為什么做的世界嗎？
Sam：
這必須是一個因素。比如，如果你只考慮訓(xùn)練這些系統(tǒng)的成本，我們不得不找到一些方法在資本主義的領(lǐng)域中競爭，缺乏更好的說法。但我不認(rèn)為這會成為我們的主要動力。順便說一下，我喜歡資本主義。我認(rèn)為它有巨大的缺陷，但相對于世界嘗試過的任何其他系統(tǒng)，我認(rèn)為它仍然是我們想出的最好的東西。但這并不意味著我們不應(yīng)該努力做得更好。我認(rèn)為我們會找到方法來花費我們需要的巨大、破紀(jì)錄的資本，以便繼續(xù)推進(jìn)這項技術(shù)的前沿發(fā)展。這是我們早期的一項學(xué)習(xí)。只是，這東西比我們想象的要貴得多。
我們有點知道我們有這個擴(kuò)展系統(tǒng)的想法，但我們只是不知道它會怎么發(fā)展。
Trevor：
你一直是擴(kuò)展的大粉絲，我讀到過關(guān)于你的這點。你的一位導(dǎo)師，也是你現(xiàn)在在注入動力方面的投資伙伴之一，他說，每當(dāng)你向Sam提出問題時，他首先想到的是，我們?nèi)绾谓鉀Q這個問題？我們怎么解決它？他接著說的第二件事是，我們?nèi)绾螖U(kuò)展這些解決方案？
Sam：誰說的？我不記得了。我對名字很糟糕。
Trevor：有趣。但我知道是你工作中的某個人說的。
Sam:
有趣。但我沒聽別人這么說過我。
但我覺得，這一直是我在許多不同公司和領(lǐng)域中的一個觀察，那就是規(guī)模往往會帶來驚人的結(jié)果。所以，大規(guī)模擴(kuò)展這些AI模型導(dǎo)致了非常驚人的結(jié)果。大規(guī)模擴(kuò)展不僅在所有顯而易見的方面使其更加出色，而且在一些不顯而易見的方面也是如此。公司規(guī)模化有不顯而易見的好處。像Y Combinator這樣的公司群體規(guī)模化有不顯而易見的好處。我認(rèn)為這一點沒有被認(rèn)真對待。
在我們的案例中，知道在早期階段規(guī)�；浅Ｖ匾Ｈ绻覀儺�(dāng)時更聰明或更有勇氣去思考的話，我們一開始就會有更大的動作。但是說我要去建造一臺價值100億美元的更大計算機(jī)真的很難。所以我們沒有那么做。我們比我們應(yīng)該的要慢一些理解這一點，但最終我們理解了。現(xiàn)在我們看到我們需要多大的規(guī)模。
我認(rèn)為資本主義很酷。我對這個體制沒有任何反感。不，這不是真的。我對這個系統(tǒng)有很多反對意見，但不得不承認(rèn)目前還沒有發(fā)現(xiàn)比它更好的東西。
Trevor：你問過ChatGPT能否設(shè)計一個系統(tǒng)嗎？
Sam：我有不同的...或許不是設(shè)計一個新系統(tǒng)。是的。但我問了很多關(guān)于AI和資本主義如何交叉以及這意味著什么的問題。
其中一件事是，關(guān)于我們最初假設(shè)中最重要的一點，我們是對的，那就是AI將會發(fā)生。深度學(xué)習(xí)有可能...順便說一句，很多人嘲笑這一點。完全是這樣。
Trevor：天哪，我們被無情地嘲笑了。
Sam：
是的。
即使是關(guān)于如何實現(xiàn)這一目標(biāo)的一些想法，我們也是對的。但是關(guān)于很多細(xì)節(jié)，我們是錯的，這在科學(xué)中是常見的，而且是正常的。在語言模型開始起作用之前，我們有一個非常不同的構(gòu)想來建造這個系統(tǒng)。我們當(dāng)時對構(gòu)建 AGI 有一個非常不同的概念。我們沒有理解這個想法，即這將是一個不斷改進(jìn)的迭代工具，你可以像與人類交談一樣與之對話。所以我們對構(gòu)建 AGI 會帶來什么感到非常困惑。我們思考的是，在 AGI 出現(xiàn)之前和之后的那個時刻。然后你需要把它交給其他系統(tǒng)和其他治理。
現(xiàn)在我認(rèn)為它可以，我對此感到非常高興，因為我認(rèn)為這樣更容易導(dǎo)航。我認(rèn)為它可以，不想說僅僅是另一個工具，因為它在很多方面都不同，但在某種意義上，我們?yōu)槿祟愔谱髁艘粋�新工具。我們把一些東西加入了工具箱。人們將會用它來做各種令人難以置信的事情，但依然是人類在規(guī)劃未來，而不是天空中的某個 AGI。你可以做以前做不到的事情。我也可以做以前做不到的事情。我們能夠做更多的事情。在這個意義上，我能想象一個世界，我們通過創(chuàng)造非常優(yōu)秀的工具，極大地影響人類的能力并且其他方面，來實現(xiàn)我們的使命。對此我感到非常興奮。
例如，我喜歡我們提供免費的、無廣告的 ChatGPT。因為我個人確實認(rèn)為廣告一直是互聯(lián)網(wǎng)的問題。但我們只是把這個工具放在那。這就是資本主義的缺點，是的，是的。其中之一。我個人認(rèn)為還有更大的缺點，但我們把這個工具放在那，人們可以免費使用。我們不想把他們變成產(chǎn)品。我們不想讓他們多用一點。我認(rèn)為這展示了一條有趣的道路，我們可以在這方面做更多的事情。
Trevor：
那么，讓我們這樣做。在我們這次對話中，有很多事情我希望能談到，顯然我們不可能回答所有問題。但是有一些想法，一些要點和一些領(lǐng)域我希望我們能探討。我想首先而且最及時的問題是，公司未來會發(fā)生什么？你認(rèn)為它會走向何方？我發(fā)現(xiàn)特別有趣的一點是新的董事會的構(gòu)成，特別是對于 OpenAI，以前董事會中有女性，現(xiàn)在沒有了，以前董事會成員沒有經(jīng)濟(jì)激勵，現(xiàn)在有了。我想知道你是否擔(dān)心你參與實施的那個保護(hù)機(jī)制現(xiàn)在消失了，你是否有一個不再著重于保護(hù)人們或定義一個更安全未來的董事會，而是專注于賺錢并盡可能做大做強(qiáng)的董事會？
Sam：
我認(rèn)為我們現(xiàn)行的和之前的治理結(jié)構(gòu)和董事會在某些重要方面不起作用。因此，我完全支持找出改進(jìn)方法，并且我會支持董事會和他們的工作來實現(xiàn)這一目標(biāo)。
顯然，董事會需要成長和多樣化，我認(rèn)為這將很快發(fā)生。我們需要聽到那些將為傳統(tǒng)上未被提倡的人發(fā)聲的人的聲音，并且不僅要非常慎重地考慮AI安全問題，還要吸取過去的教訓(xùn)，了解如何在與社會各方面交互的過程中構(gòu)建這些非常復(fù)雜的系統(tǒng)。盡可能地做好，同時減輕不良影響并分享好處，所有這些都需要得到體現(xiàn)。
所以，我很高興有第二次機(jī)會把所有這些事情都做對，我們顯然之前做錯了。比如多樣化，確保我們代表所有需要代表的主要利益相關(guān)者群體，找出如何使這件事更民主，繼續(xù)推動政府做出一些決定來管理這項技術(shù)。我知道這并不完美，但我認(rèn)為比我們目前能想到的任何其他方法都要好。更多地與我們的用戶群體互動，讓他們幫助設(shè)定這項技術(shù)的使用界限，這些都非常重要。
未來一個主要方向?qū)⑹菙U(kuò)大董事會和治理架構(gòu)。再次強(qiáng)調(diào)，我知道我們目前的董事會很小，但我認(rèn)為他們非常致力于您剛才談到的所有事情。
然后還有另一大類問題。如果你一周前問我，我會說穩(wěn)定公司是我的首要任務(wù)。但至少在內(nèi)部，我感覺相當(dāng)不錯。我們沒有失去一個客戶，也沒有失去一個員工。我們在繼續(xù)增長，這相當(dāng)驚人。我們繼續(xù)推出新產(chǎn)品。我們的關(guān)鍵合作伙伴關(guān)系感覺得到了加強(qiáng)，而不是受到阻礙。在這方面，一切都按計劃進(jìn)行。而且，我認(rèn)為明年上半年的研究和產(chǎn)品計劃感覺比以往更好、更有針對性。
Trevor：
我發(fā)現(xiàn)自己總是在想你這個人，當(dāng)整個董事會風(fēng)波發(fā)生時。每當(dāng)有風(fēng)暴時，我總是對風(fēng)暴中心發(fā)生的事情感興趣。我很好奇，這一切爆發(fā)時你在哪里？比如，你當(dāng)時在做什么？在個人層面上，你的世界里發(fā)生了什么？
Sam：
我笑的原因是人們對我的評價是，我似乎在颶風(fēng)的眼中，周圍的一切都在旋轉(zhuǎn)，而我依然非常冷靜。這一次，事情的結(jié)果并非如預(yù)期。
這是一種經(jīng)歷，就像置身于風(fēng)暴的中心，卻并不平靜。我在拉斯維加斯觀看F1比賽。
Trevor：你是F1的粉絲嗎？
Sam：我是。
Trevor：你支持哪支車隊？有特別喜歡的嗎？
Sam：
老實說，我覺得維斯塔潘非常厲害，很難說支持哪支車隊。但我覺得這可能是每個人都會說的答案。
Trevor：
實際上，這取決于他們什么時候開始關(guān)注這個運動。我是舒馬赫的粉絲，因為那時候我開始看比賽。一開始是奈杰爾曼塞爾，然后是艾爾頓塞納，你明白我的意思嗎？
維斯塔潘非常精準(zhǔn)，我明白為什么他如此受歡迎。
Sam：
雖然看他贏那么多次有點厭倦，但他確實非常了不起。
那天晚上，我是周四晚些時候到的。有人忘記把一個井蓋焊好，所以在第一圈時，井蓋被炸飛，像是炸毀了法拉利的一臺引擎，導(dǎo)致練習(xí)暫停。我沒能看到比賽，整個周末都沒看到任何比賽。
我在酒店房間里接了一個電話，完全不知道會是什么，然后被董事會解雇了。這感覺像做夢一樣，我覺得很困惑。一切都很混亂，感覺不像真的。這顯然讓人感到傷心和痛苦，但那時候的主導(dǎo)情緒是困惑，感覺就像是在迷霧和煙霧中。我完全不明白發(fā)生了什么。
這件事發(fā)生的方式前所未有，非常瘋狂。接下來的半小時里，我的手機(jī)收到了太多的信息，以至于iMessage在我的手機(jī)上崩潰了。這些信息來自每個人，手機(jī)變得完全無法使用，因為通知不停地彈出來。iMessage到了一個地步，它停止了一段時間，信息被延遲發(fā)送，然后又把所有信息都標(biāo)記為已讀，所以我甚至無法分辨我跟誰交談過，情況一片混亂。
我當(dāng)時正在跟這邊的團(tuán)隊交談，試圖搞清楚到底發(fā)生了什么。像微軟也在打電話，其他各方也在聯(lián)系。整個情況真的是讓人感到很不安，感覺不像是真的。我稍微冷靜了下來，開始思考未來的方向。我真的很想從事AGI（通用人工智能）方面的工作。如果一開始不能做到這一點，我仍然會繼續(xù)努力。我在考慮最好的方法。
Greg辭職了，其他一些人也辭職了，開始收到大量的消息，人們表示想和我一起工作。那時，回到OpenAI完全不在我的考慮之中。我能想象未來會怎樣，但我不太明白這是一個多么重大的行業(yè)事件，因為我并沒有真正看新聞。我只能感覺到，收到了大量的消息。
Trevor：
因為你實際上在風(fēng)暴中。
Sam：
是的。我只是想支持OpenAI，弄清楚接下來要做什么，試著理解正在發(fā)生的事情。然后我飛回加州，見了一些人，感覺開始非常專注于未來的發(fā)展。但我也希望OpenAI一切順利。幾乎整個晚上都沒怎么睡著，同時有很多談話在進(jìn)行。接下來度過了一個瘋狂的周末。我肯定我仍然沒有完全接受這一切，仍然有點震驚，還在試著收拾殘局。我相信當(dāng)我有時間坐下來處理這件事時，會有更多的感受。
Trevor：
你覺得你不得不一下子重新投入一切嗎？因為，照你的說法，你正在執(zhí)行這個任務(wù)。你能看出來，你的眼中充滿了驅(qū)動力，現(xiàn)在世界已經(jīng)到了一種無法回歸的臨界點。你正在朝某個方向前進(jìn)，突然之間，看起來你無法在你所處的領(lǐng)域中實現(xiàn)它。但正如你所說，微軟介入了，Satya Nadella說，來跟我們一起工作吧，我們會重建這個團(tuán)隊。
如果有一件事人們對Sam Altman有共識，那就是他很頑強(qiáng)。他毫不妥協(xié)，認(rèn)為如果你有一個目標(biāo)，并且相信某些事情，就不應(yīng)該讓生活阻礙你。而你似乎正在朝那個方向前進(jìn)。你在公開場合沒有說過關(guān)于OpenAI的任何事情，也沒有以任何方式詆毀它。但這似乎讓你承受了很大的壓力。
Sam：
當(dāng)然。我并不認(rèn)為這是我不能恢復(fù)的事情，但我認(rèn)為經(jīng)歷這一切卻不受到影響是不可能的，那會非常奇怪。
Trevor：
你是否覺得自己失去了一部分？
Sam：
是的。我們在2015年底開始了OpenAI。第一天的工作實際上是在2016年開始的。
我在YC上做這件事有一段時間，但自從2019年初以來，我一直全職投入其中。AGI和我的家人是我最關(guān)心的兩件事。所以失去其中之一，對我來說，在某種意義上，我應(yīng)該說，我更致力于AGI，更關(guān)心這個使命。但當(dāng)然，我也關(guān)心這個組織、這些人、我們的用戶、我們的股東以及我們在這里建立的一切。所以，這確實非常痛苦。
我唯一可以相比的生活經(jīng)歷是我父親去世的時候，那次當(dāng)然要糟糕得多。那是一件非常突然的事情，那種困惑和失落感。在那種情況下，我覺得我有一點時間去感受這一切。但接下來還有很多事要做，那是如此意外，我不得不在一段時間內(nèi)收拾他的生活碎片。直到那之后大約一周，我才真正有時間喘口氣，心想，天哪，我簡直不敢相信這件事發(fā)生了。所以是的，那確實糟糕得多。但在這里，也有類似的回響。
Trevor：
當(dāng)你展望公司的未來以及你在其中的角色時，現(xiàn)在你如何在推動開放AI向前發(fā)展、不斷朝著你們相信的方向前進(jìn)之間找到平衡？你們還有緊急剎車嗎？公司內(nèi)部是否有某種體系，當(dāng)你覺得我們正在創(chuàng)造某些可能對社會產(chǎn)生不良影響的東西時，我們會介入并停止這種行為。你們有這種能力嗎？并且這個體系是內(nèi)置的嗎？
Sam：
是的，當(dāng)然。我們過去就有這樣的體系。比如，我們創(chuàng)造了一些系統(tǒng)，但選擇不加以部署。我相信未來我們也會再次這樣做�；蛘呶覀儎�(chuàng)造了一個系統(tǒng)并說，嘿，我們需要更長時間來確保它的安全性，然后才能部署。就像GPT-4的例子，我們花了將近八個月的時間在完成訓(xùn)練之后才準(zhǔn)備好發(fā)布它，以進(jìn)行所有的對齊和安全測試。我記得我和一些團(tuán)隊成員交談過，這不是董事會的決定，這是這里的人們在做他們的工作，并致力于我們的使命。所以這將繼續(xù)下去。
我為這個團(tuán)隊感到非常自豪的是，他們在混亂、危機(jī)、不確定性和壓力中運作良好的能力。我給他們打個A+，他們做得非常好。隨著我們越來越接近更強(qiáng)大、非常強(qiáng)大的系統(tǒng)，我認(rèn)為我們建立的文化和團(tuán)隊的那種能力可能是最重要的元素，例如在危機(jī)中保持冷靜并做出良好、深思熟慮的決定。我認(rèn)為這里的團(tuán)隊真正證明了他們可以做到這一點，這非常重要。
有人說，我們學(xué)到的關(guān)于 OpenAI 的一件事是，Sam 可以在沒有任何職位的情況下運營這家公司。我認(rèn)為那完全是錯的，根本不是事實。正確的教訓(xùn)是，公司完全可以在沒有我的情況下運行。這是一個文化問題，團(tuán)隊已經(jīng)準(zhǔn)備好了，文化也已經(jīng)準(zhǔn)備好了。我為此感到非常自豪，真的很高興能夠回來繼續(xù)做這件事。
看著團(tuán)隊管理這一切，在面對未來的挑戰(zhàn)時，我晚上睡得更踏實了。未來還會有比這更大的挑戰(zhàn)，但我希望并相信這是最艱難的一個挑戰(zhàn)，因為我們之前毫無準(zhǔn)備。現(xiàn)在我們意識到了這個重要性，我們不僅僅是一家普通公司，遠(yuǎn)遠(yuǎn)不是。
Trevor：
讓我們談?wù)勥@個吧。ChatGPT，OpenAI，不管它最后叫什么。你們有DALLE，也有Whisper，還有所有這些了不起的產(chǎn)品。如果你有任何品牌名稱或品牌架構(gòu)的想法，我會非常感興趣。我覺得ChatGPT已經(jīng)做到了，現(xiàn)在它無處不在。是的，這是一個糟糕的名字，但它可能已經(jīng)變得太普遍以至于無法更改。你認(rèn)為在這個時候可以更改它嗎？我們可以把它簡化為GPT或者就叫chat嗎？
Sam：
我不知道，也許不行。
Trevor：
有時候我覺得一個產(chǎn)品、一個名字或一個想法已經(jīng)超越了營銷人員的夢境，然后人們就接受了它。
Sam：
沒有任何營銷人員會選擇ChatGPT作為這個的名字，但我們可能會被它困住，這也許沒什么問題。
Trevor：
現(xiàn)在，它的多模態(tài)特性讓我感到著迷。我還記得第一次看到DALLE出來時，那只是一個想法，看著它是怎么工作的，看到這個程序可以從無到有創(chuàng)造一張圖片。我試圖向人們解釋，他們會問，那圖片是從哪里來的？我當(dāng)時就想，根本沒有照片，沒有源圖像。他們覺得這不可能。
它看到了什么，我當(dāng)時覺得，很難解釋這些。有時候甚至我自己也很難理解。但是當(dāng)我們看著我們當(dāng)前生活的這個世界時，我們用數(shù)字來談?wù)撍鼈�，GPT 3.5，GPT 4，GPT 5，6，7，不管是什么。我喜歡以去掉技術(shù)術(shù)語的方式，更多地談?wù)摦a(chǎn)品的實際使用案例。
在不同產(chǎn)品之間，從ChatGPT 3、3.5到4，我們看到所謂的推理能力達(dá)到了一個更高的水平，甚至在某種程度上展現(xiàn)了創(chuàng)造力。
當(dāng)我看著你現(xiàn)在正在創(chuàng)建的這個世界中的產(chǎn)品時，比如通用的大型語言模型以及現(xiàn)在的專用大型語言模型，我想知道，你認(rèn)為用例會發(fā)生巨大變化嗎？你認(rèn)為現(xiàn)在可能只是像一個小聊天機(jī)器人，大家都喜歡的那種，這就是產(chǎn)品的最終形態(tài)嗎？或者你認(rèn)為世界會變成一個所有東西都有專門化GPT的世界？比如，Trevor會有一個為他做事情的GPT，或者某家公司有一個為他們做事情的GPT。你怎么看這個問題？
顯然，預(yù)測未來是很難的。但從我們現(xiàn)在所處的位置，你覺得會向哪里發(fā)展？
Sam：
我認(rèn)為會是兩者的混合。預(yù)測未來確實很難，可能我會錯，但我還是愿意嘗試一下。我認(rèn)為會是你剛才提到的兩件事的混合。首先，基礎(chǔ)模型會變得非常出色，以至于我很難有把握地說它不能做到什么。這會需要很長時間，但我認(rèn)為我們正朝那個方向前進(jìn)。
Trevor：
你的時間范圍內(nèi)的“長時間”是多久？比如說你怎么衡量它？
Sam：
不是在未來的幾年內(nèi)。在接下來的幾年里每年都會變得更好。但就像我本來要說的，我很肯定，到2026年，這個模型仍然有很多事情做不到。
Trevor：
但是，這個模型難道不會一直讓你驚訝嗎？當(dāng)我和在這個領(lǐng)域工作的工程師交流時，或者與任何參與人工智能或與人工智能相關(guān)的人交流時，人們說的最多的一個詞就是“驚訝”。人們不斷地說，他們教給它這個，以為ChatGPT在學(xué)習(xí)這個領(lǐng)域的知識。突然之間，它開始說一種新的語言，或者我們以為我們在教它這個，突然它會建橋了，之類的事情。
Sam：
所以，這里大多數(shù)人的主觀體驗大概就是在2019年至2022年之間的某個時候。但現(xiàn)在，我認(rèn)為我們已經(jīng)學(xué)會不再感到驚訝。現(xiàn)在我們信任指數(shù)增長，大多數(shù)人都這樣認(rèn)為。所以，GPT-5，無論我們怎么稱呼它，在許多方面都會表現(xiàn)出色。我們會對它能做的某些具體事情感到驚訝，也會對它不能做的事情感到驚訝。沒有人會對它的出色感到驚訝。在這一點上，我認(rèn)為我們已經(jīng)真正深入地理解了這一點。
你提到的第二件事是這些定制的GPT。更重要的是，你還提到了個人GPT，比如Trevor GPT。我認(rèn)為這將在未來幾年成為一個重大的趨勢。這些模型將會了解你，訪問你的個人數(shù)據(jù)，以你希望的方式回答問題，非常有效地在你的環(huán)境中工作。我認(rèn)為很多人都會想要這個。
Trevor：
這幾乎讓我想知道，如果新的勞動力市場變成了你的GPT幾乎就是你的簡歷，GPT幾乎以一種奇怪的方式比你更有價值。你明白我的意思嗎？這就像是你所想的一切和你曾想過的一切的結(jié)合，以及你合成想法的方式，再加上你自己的個人GPT變成......我只是想著一個瘋狂的未來，你到一個工作崗位，他們問你，你的GPT是什么？然后你說，好吧，這是我的。
Sam：
我們總是會想到這些像代理機(jī)構(gòu)、這些個性化的機(jī)構(gòu)，我會讓這個東西去為我做事。但有趣的是，你所說的這件事是，如果它不是這樣，而是別人如何與你互動。對吧。這就像是你的印象、你的化身、你的回聲，等等。我能看到它達(dá)到那種地步。
Trevor：
因為如果我們不是我們所有的一切的結(jié)合，那我們是什么呢？這是一個奇怪的想法，但我可以相信。我一直對它能去到哪里以及它能做什么感到著迷。
你知道為什么嗎？當(dāng)ChatGPT在最初幾周爆紅時，我永遠(yuǎn)不會忘記人們很快意識到，機(jī)器人革命，我知道這不是機(jī)器人，但對于人們來說，他們就像是，機(jī)器人革命，機(jī)器并沒有取代他們以為會被取代的工作。你知道的，人們以為它會取代卡車司機(jī)等。然而，我們發(fā)現(xiàn)不，那些工作實際上更難被取代。事實上，被所謂的“腦力工作”取代的都是那些工作，就像你的白領(lǐng)工作。你是律師？好吧，當(dāng)你有了ChatGPT 5、6、7，不管你叫什么，可能不需要那么多律師了。你是工程師，你就像是，哪有你的位置...人體真的是一個了不起的東西。
你認(rèn)為有什么進(jìn)展可以取代人體嗎？還是我們?nèi)酝Ａ粼诰耦I(lǐng)域？
Sam：
不，我認(rèn)為我們最終會讓機(jī)器人工作，像類人機(jī)器人最終會工作。但是，我們在OpenAI的早期階段就致力于此，我們有一個機(jī)器人項目。我不知道這一點。
我們知道，我們制造了一個可以像手一樣操作魔方的機(jī)器人手。這需要很高的靈活性。我認(rèn)為這其中包含了很多不同的見解，但其中一個見解是，在比特的世界中取得進(jìn)展要比在原子的世界中容易得多。
例如，這個機(jī)器人很難制造，但原因不對。難點不在于它能幫助我們推進(jìn)一些棘手的研究問題，而在于機(jī)器人一直在壞，而且它不太準(zhǔn)確，模擬器也很糟糕。而一個語言模型，你可以在虛擬環(huán)境中做所有這些事情，你可以進(jìn)展得快得多。所以，專注于認(rèn)知方面幫助我們更快地解決更具生產(chǎn)力的問題。
但這也在一個非常重要的方面，我認(rèn)為，解決認(rèn)知任務(wù)是更重要的問題。比如，如果你制造一個機(jī)器人，它不一定能弄明白如何幫助你建立一個完成認(rèn)知任務(wù)的系統(tǒng)。但如果你創(chuàng)建了一個完成認(rèn)知任務(wù)的系統(tǒng)，它可以幫助你弄明白如何制造一個更好的機(jī)器人。
是的，這很有道理。所以我認(rèn)為認(rèn)知是我們想要重點推進(jìn)的核心內(nèi)容。我認(rèn)為這是一個正確的決策。不過，我希望我們能回到機(jī)器人領(lǐng)域。
Trevor：
你有沒有想過什么時候你會認(rèn)為實現(xiàn)了人工通用智能？比如，我們怎么知道？就我個人而言嗎？比如，我什么時候感覺任務(wù)完成了？
Sam：
因為每個人都在談?wù)撏ㄓ萌斯ぶ悄�，但我會問，我們怎么知道那是什么？所以這又回到之前的那個點，每個人都有不同的定義。我個人會告訴你什么時候我會非常興奮。當(dāng)我們有一個系統(tǒng)可以幫助發(fā)現(xiàn)新的物理學(xué)時，我會非常興奮。但這感覺像是遠(yuǎn)超通用智能。那似乎，你懂我的意思嗎？這超出了我認(rèn)為大多數(shù)人的定義。
Trevor：
也許這是因為我有時會想，我們?nèi)绾味x通用智能？我們是把它定義為某個領(lǐng)域的天才嗎？還是像一個孩子是人工通用智能那樣？那是肯定的。但你必須不斷地編程它，他們出生時不會說話，不會走路，他們什么都不知道。而你不斷地編程這個 AGI 讓它達(dá)到它需要去的地方。
那么如果你，比如說，你達(dá)到一個有四歲小孩版本的地步。
Sam：
如果我們有一個系統(tǒng)，可以像這樣，只要搞清楚，可以自主地運作，得到一些父母的幫助，像四歲小孩那樣了解世界。是的，我們可以稱之為AGI。如果我們能真正解決那種普遍的能力，新問題出現(xiàn)時就能自己搞清楚。四歲的小孩也不是總能完美地理解事物，但那時候我們顯然就能理解它了。
Trevor：
如果我們沒有從根本上理解思考和思維的本質(zhì)，是否能夠到達(dá)那個點？看起來好像可以。你認(rèn)為我們能到達(dá)那個點嗎？我覺得可以�；蛘呶覀兡艿竭_(dá)一個……所以我相信你知道這個。
在AI領(lǐng)域，我最喜歡的故事之一是微軟的一個項目。他們有一個AI，試圖學(xué)習(xí)辨別男性和女性的臉龐，這在某種程度上是非常準(zhǔn)確的，準(zhǔn)確率大約是99.9%。然而，它在黑人和尤其是黑人女性方面表現(xiàn)得一直很糟糕，不斷將她們誤認(rèn)為是男性。研究人員一直在努力改進(jìn)，他們一直在思考，這是怎么回事？
有段時間，我是這樣講述這個故事的，可能有點誤差，但我覺得很有趣。有段時間，他們“派遣”AI到非洲，我記得是肯尼亞。他們把AI送到了非洲，然后告訴肯尼亞的研究團(tuán)隊，能不能用一段時間，試著解決這個問題？當(dāng)這個AI在世界的那一邊，用他們的數(shù)據(jù)集和非洲面孔運行時，它對尤其是黑人女性的識別變得越來越準(zhǔn)確。
但最終，他們發(fā)現(xiàn)AI從來不知道男性面孔和女性面孔之間的區(qū)別。它所做的只是畫出化妝之間的相關(guān)性。于是，AI確定，有紅唇、有像玫瑰色的臉頰的，以及眼皮上可能有藍(lán)色的人是女性，其他的是男性。研究人員說，是的，你是對的。它只是找到了一個所謂的“作弊碼”，你懂的。它就像是，我明白你認(rèn)為男人和女人的標(biāo)準(zhǔn)是什么，然后它就按照這些標(biāo)準(zhǔn)進(jìn)行了區(qū)分。
然后他們意識到，因為黑人女性在化妝品方面普遍服務(wù)不到位，她們不怎么化妝，所以系統(tǒng)根本不知道這一點。但是我們不知道系統(tǒng)不知道。所以我在想，我們怎么才能知道AGI知道還是不知道某件事呢？或者我們會不會發(fā)現(xiàn)它只是通過某種方式作弊達(dá)到了答案？我們又怎么知道呢？
當(dāng)這種不確定性與我們生活的許多方面交織在一起時，我們無知的代價是什么？你懂嗎？
Sam：
我相信我們在理解這些系統(tǒng)在做什么方面會有所進(jìn)展。目前，可解釋性已經(jīng)取得了一定的進(jìn)展。這是一個研究這些模型的領(lǐng)域，有不同的方式和不同的層次可以進(jìn)行這種研究。你可以嘗試?yán)斫庀到y(tǒng)中每個人工神經(jīng)元在做什么，或者你可以在系統(tǒng)逐步思考的時候，觀察哪個步驟讓你不認(rèn)同。我們將發(fā)現(xiàn)更多的內(nèi)容。
有能力理解這些系統(tǒng)在做什么，并希望它們能向我們解釋為什么會得出某些結(jié)論，并且做到準(zhǔn)確和穩(wěn)劍我認(rèn)為我們會在理解這些系統(tǒng)是如何做到他們所做之事之前取得進(jìn)展，同時也會了解我們自己的大腦是如何做到他們所做之事的。所以我認(rèn)為我們最終會理解這一點。我很好奇，我相信你也是。
在我看來，我們會在實施我們知道有效的方法以使這些系統(tǒng)變得越來越好，并幫助我們解決可解釋性挑戰(zhàn)方面取得更多進(jìn)展。而且，我認(rèn)為隨著這些系統(tǒng)變得更智能，它們被愚弄的次數(shù)也會減少。因此，一個更復(fù)雜的系統(tǒng)可能不會做出這樣的化妝品區(qū)分，它可能在更深層次上進(jìn)行了學(xué)習(xí)。我認(rèn)為我們看到了一些這樣的事情發(fā)生的證據(jù)。
Trevor：
你讓我想到兩件事，當(dāng)你說不那么容易被愚弄時。一個是安全方面，另一個是準(zhǔn)確性方面。媒體對此津津樂道。你記得，他們說，人工智能產(chǎn)生幻覺，它認(rèn)為自己要殺了我。人們喜歡用“思考”這個詞來形容大型語言模型，我覺得特別有趣。因為我總是覺得記者們在報道之前應(yīng)該試圖理解它在做什么。但他們在大量使用“思考”這個詞時，其實讓公眾產(chǎn)生了一種誤解。我對此有同情心。
Sam：
我們需要使用熟悉的術(shù)語，我們需要擬人化。但我同意你的觀點，這是一種誤導(dǎo)。
Trevor：
因為你在說它在思考，然后人們就會想，會不會它在思考要殺我？其實不是這樣的，它并沒有在思考，它只是利用這個神奇的Transformer來找出哪些詞最可能適合彼此的關(guān)系。
Sam：你覺得你在做什么？
Trevor：
我在做什么？這是一個有趣的問題。這就是我要說的，是我們拼湊出的想法。
我們談?wù)?ldquo;幻覺”。讓我先從前半部分開始。你認(rèn)為我們能實現(xiàn)讓AI不產(chǎn)生幻覺的目標(biāo)嗎？
Sam：
我認(rèn)為更好的問題是，我們能否在不希望AI產(chǎn)生幻覺的時候，確保它不會產(chǎn)生幻覺，以類似于人類不產(chǎn)生幻覺的頻率。對此，我的答案是肯定的。但實際上，人們喜歡這些系統(tǒng)的一大原因是它們能夠做出新奇的事情。如果它只會……是的，幻覺既是一種功能也是一種錯誤。
Trevor：
這就是我剛才要問的。難道產(chǎn)生幻覺不是智能存在的一部分嗎？
Sam：
完全是。
如果你考慮一下，比如說，一個人工智能研究員的工作方式，他們會看大量的數(shù)據(jù)，想出一些主意，讀很多資料，然后開始思考，也許這個，或者那個。也許我應(yīng)該嘗試這個實驗。現(xiàn)在我拿到了這些數(shù)據(jù)。所以，那樣不太行得通�，F(xiàn)在我會想出這個新主意。
這種人類提出新假設(shè)、新解釋的能力以前從未存在過，其中大多數(shù)是錯誤的，但隨后有一個流程和反饋循環(huán)來找出哪些可能有意義并最終確實有意義。這是人類進(jìn)步的關(guān)鍵要素之一。
Trevor：
我們?nèi)绾畏乐谷斯ぶ悄艹霈F(xiàn)輸入垃圾、輸出垃圾的情況？目前，人工智能依靠以某種方式由人類創(chuàng)造的信息在工作。它正在從我們認(rèn)為可學(xué)習(xí)的材料中進(jìn)行學(xué)習(xí)。隨著現(xiàn)在所有新出現(xiàn)的東西，比如開放AI、Anthropic、Lambda等，感覺我們可能會進(jìn)入一個由AI生成信息比人類生成信息更多的世界，而這些信息可能沒有得到應(yīng)有的審查。
那么，AI在以一種可能沒有經(jīng)過審查的方式從自身學(xué)習(xí)時，會變得更好嗎？你明白我的意思嗎？
Sam：
完全明白。
我們?nèi)绾谓鉀Q這個問題？這就回到了知道在不同情境下如何表現(xiàn)的問題。比如，你希望在創(chuàng)作過程中有一些幻想，但在試圖報道事件的準(zhǔn)確事實時，你不希望有這些幻想。而現(xiàn)在，這些系統(tǒng)可以生成在某種重要意義上很美麗的新圖像，這些圖像在某種程度上是幻想，但卻是很好的幻想。但是當(dāng)你希望系統(tǒng)只提供事實時，它又已經(jīng)變得好多了，但在這方面仍有很長的路要走。
這沒關(guān)系。我認(rèn)為，如果這些系統(tǒng)在使用自己生成的數(shù)據(jù)進(jìn)行訓(xùn)練，這是一件好事，只要這些系統(tǒng)有一個過程，能夠?qū)W習(xí)哪些數(shù)據(jù)是好的，哪些是壞的。再次強(qiáng)調(diào)，“幻覺”不足以描述這個過程，因為如果它產(chǎn)生了新的科學(xué)思想，這些思想可能一開始被視為“幻覺”。這很有價值。
但你懂的，什么是好的，什么是壞的。而且還需要足夠的人類監(jiān)督，確保我們大家仍然集體控制這些事情的發(fā)展方向。但在這些限制下，我認(rèn)為系統(tǒng)會使用生成的數(shù)據(jù)進(jìn)行訓(xùn)練，這是非常好的，未來的系統(tǒng)也會如此。
然后你提醒了我另一件事，我一直在想，我不太清楚該怎么計算，但我想知道，比如，GPT-5或6之類的系統(tǒng)生成的單詞在某個時刻是否會超過人類整個歷史上的總和。這感覺像是一個重要的里程碑。
實際上，現(xiàn)在我把這說出來，也許并不重要。
Trevor：
用什么方式生成的？
Sam：
比如模型在一年內(nèi)生成的單詞多于全人類生成的單詞。全世界有八十億人，或者說不管是多少。平均每年講多少單詞，你可以算出來的。
但問題在于，這給我們帶來了什么？這也是我說完之后感到吃驚的原因。不知為什么，這對我來說似乎是一個重要的里程碑，但我想不出具體原因。
Trevor：
也許人類就像一直在打字的猴子。所以，我覺得這是值得探索的。
Sam：
但我不用“思考”這個詞，因為我覺得你說的對，不該用這個詞。也許我們可以說AI生成的單詞量對比全人類生成的單詞量。
Trevor：
我馬上就要結(jié)束了。那么我想問幾個問題，如果我不問這些問題，大家會殺了我。
其中一個主要問題，這是我個人的提問，我們總是談?wù)撊斯ぶ悄軓臄?shù)據(jù)中學(xué)習(xí)，它們被輸入數(shù)據(jù)集。我們就是在談?wù)撨@個。這就是為什么你需要那些價值數(shù)十億美元的超級計算機(jī)，這樣計算機(jī)才能學(xué)習(xí)。
我們?nèi)绾谓藺I比提供給它數(shù)據(jù)的那些人思考得更好，這些數(shù)據(jù)顯然是有缺陷的？舉個例子，AI如何在我們給出的有限數(shù)據(jù)之外進(jìn)行學(xué)習(xí)？當(dāng)涉及到種族、經(jīng)濟(jì)狀況和觀念時，因為我們是有限的，我們?nèi)绾谓趟皇芪覀兯峁┑挠邢迶?shù)據(jù)的限制？
Sam：
我們還不知道，但這是擺在我們面前的最大研究方向之一，如何超越人類數(shù)據(jù)。我希望如果我們能在一年后再做一次這個問答，我能夠告訴你答案，但我現(xiàn)在還不知道。我們不知道這真的很重要。
但是，我確實相信這將成為在世界范圍內(nèi)對抗不公正的一股重要力量。我認(rèn)為這些系統(tǒng)將不會有所有人類共有的那些深刻缺陷。它們將能夠被制造得遠(yuǎn)不那么種族主義、性別歧視和偏見。它們將會成為世界經(jīng)濟(jì)正義的力量。
我認(rèn)為，如果你提供一個優(yōu)秀的AI導(dǎo)師或優(yōu)秀的AI醫(yī)療顧問，這對世界上最貧困的一半人幫助更大，而不僅僅是對最富有的一半人有幫助，即使這幫助提升了所有人。
所以對于你提出的科學(xué)問題，我沒有一個明確的答案，但在這一點上，我確實相信這些系統(tǒng)當(dāng)然可以，而且我們確實需要做一些艱苦的社會工作來使它們成為現(xiàn)實，但它們有可能極大地促進(jìn)世界上的正義。
Trevor：
也許這就完美地引出了第二個問題，那就是，你們在做什么？OpenAI在做什么？你們是否在考慮采取任何措施來減輕這項新技術(shù)再次造成的貧富差距？
每一種新技術(shù)的出現(xiàn)，對于整個社會來說都是非常了不起的，但你不能否認(rèn)它會制造出一個時刻，如果你擁有它，你就擁有一切。而如果你沒有，你就出局了。
Sam：
我認(rèn)為我們會隨著時間的推移學(xué)到更多，但目前，我認(rèn)為我們做的一件非常重要的事情是提供真正免費的服務(wù)。這意味著沒有廣告支持，只是一個免費服務(wù)，每周有超過一億人在使用。而且，很難說任何人，因為在某些國家我們?nèi)匀槐黄帘位蛭覀內(nèi)匀黄帘�，但我們正在努力在我們能做到的一切地方讓任何人都能夠訪問真正高質(zhì)量、易于使用的服務(wù)。免費的人工智能，這對我們每個人來說都很重要。
我認(rèn)為我們還想用這項技術(shù)做其他事情。比如，如果我們能用人工智能幫助治愈疾病，并使這些治療方法惠及全世界，這顯然是有益的，但將這個工具交到盡可能多的人手中，并讓他們使用它來構(gòu)建未來，這非常重要。而且我認(rèn)為我們可以推動這點，更加進(jìn)一步。
Trevor：還有兩個問題。
Sam：我可以再補(bǔ)充一個嗎？
Trevor：時間全部是你的。
Sam：
另一件我認(rèn)為重要的事情是誰有權(quán)決定這些系統(tǒng)說什么、不說什么、做什么、不做什么，誰來設(shè)定這些限制。現(xiàn)在，基本上是OpenAI的員工在做決定，沒有人會說這像是世界的公平代表。所以，不只是要弄明白如何推廣這項技術(shù)的普及，還要弄明白如何實現(xiàn)這項技術(shù)治理的民主化，這對我們來說是明年面臨的一個巨大挑戰(zhàn)。
Trevor：
這正好關(guān)系到我正要問你的，所有這些的安全方面。我們在對話一開始就談到了這個。在設(shè)計能夠改變世界的事物時，必須承認(rèn)這樣一個事實：它可能會以最糟糕的方式或者朝最不好的方向改變世界。隨著每一次技術(shù)的飛躍，一個人造成更大破壞的能力也隨之增加。
有可能將AI完全安全化嗎？然后第二部分是，你的噩夢場景是什么？什么事情會讓你按下一個紅色按鈕來關(guān)閉OpenAI以及所有的AI？當(dāng)你去的時候，你知道這個，如果這是，如果這能發(fā)生，我們必須把它全部關(guān)閉。你害怕什么？
第一個問題是，你能保證它的安全嗎？第二部分是，你最可怕的場景是什么？
Sam：
我認(rèn)為，首先，你提到的洞察，即能夠造成災(zāi)難性傷害的人數(shù)每隔十年左右就會減少，這是我們作為一個社會必須面對的一個深刻事實。
其次，關(guān)于如何使系統(tǒng)安全，我不認(rèn)為這是一種非此即彼的事情。就像我們說飛機(jī)是安全的，但飛機(jī)確實仍然會偶爾失事，盡管這種情況極其罕見。我們說藥物是安全的，但有時候FDA仍然會認(rèn)證一些可能導(dǎo)致某些人死亡的藥物。因此，安全并不是單方面決定的，而是社會在權(quán)衡風(fēng)險與回報后決定某件事是可接受的安全程度。我認(rèn)為我們可以做到這一點，但這不意味著事情不會真的出錯。
我認(rèn)為人工智能會出現(xiàn)很大問題，我們必須防范。我認(rèn)為，社會實際上有一個相當(dāng)不錯的，雖說混亂但好的過程來共同決定應(yīng)該設(shè)置什么樣的安全門檻。這是一個涉及許多利益相關(guān)者的復(fù)雜談判，隨著時間的推移，我們作為一個社會在這方面變得越來越擅長。但我們必須防范你所提到的那種災(zāi)難性風(fēng)險。
核能是一個例子，核戰(zhàn)爭對全球產(chǎn)生了非常大的影響。世界以不同的方式對待它，并且在過去近80年里完成了一項非常了不起的工作。我認(rèn)為，人工智能也會有類似的情形。人們經(jīng)常談?wù)摰囊粋�例子是使用人工智能設(shè)計和制造可以引起巨大問題的合成病原體。另一個常談的話題是計算機(jī)安全問題以及能夠進(jìn)行超越任何人類能力的黑客攻擊的人工智能。
此外，還有一種新的情況，如果模型足夠強(qiáng)大，它可以幫助設(shè)計方法將權(quán)重從服務(wù)器外傳，制作很多副本并修改其行為，這更像是科幻場景。但我認(rèn)為，作為一個世界，我們需要直視這一點。也許不是那個具體的案例，但這個觀點認(rèn)為存在災(zāi)難性甚至潛在的生存風(fēng)險，僅僅因為我們無法精確定義它并不意味著我們可以忽略它。
因此，我們在這里做了大量工作，試圖預(yù)測和衡量這些問題可能是什么，何時會出現(xiàn)，以及我們?nèi)绾卧缙跈z測到它們。我認(rèn)為，所有說你不應(yīng)該談?wù)撨@個問題，只應(yīng)該談?wù)撳e誤信息和偏見以及當(dāng)今問題的人，都是錯的。我們必須同時談?wù)撨@兩個方面，并在每一步都保持安全。
Trevor：
好的，那就像我想象的那樣可怕。那么，順便問一句，你真的在考慮競選州長嗎？那是真的嗎？
Sam：
不，不。我在2017年或2016年的時候非常短暫地考慮過這個問題，甚至是類似于那些年。我也這么想。
這聽起來就像是幾個星期以來的一種模糊的想法，娛樂一下。
Trevor：
好的。
我想我的最后一個問題就是，接下來該怎么辦呢？你的夢想是什么？如果薩姆阿爾特曼能夠揮動魔法棒，讓人工智能變成你所希望的樣子，你認(rèn)為它將為未來帶來什么？有哪些優(yōu)點？對大家來說，都有哪些好處？而且在每個層面上，這就像是一件很不錯的積極事情。
Sam：
謝謝你問這個問題。我認(rèn)為應(yīng)該始終以積極的方面結(jié)束。
是的。我認(rèn)為我們正進(jìn)入人類有史以來最豐富的時期。我認(rèn)為主要的兩個推動力是人工智能和能源，但也會有其他因素。這兩件事，想出任何想法的能力，實現(xiàn)這些想法的能力，并在大規(guī)模上做到這一點，人們能擁有的東西的限制將有點像他們能夠想象的東西以及我們作為一個社會共同協(xié)商的東西。我覺得這將會非常棒。
我們剛才在談?wù)�，如果每個學(xué)生都能獲得比今天最富有、獲取資源最好的學(xué)生更好的教育體驗，這意味著什么？如果我們所有人都擁有比今天最富有的人能夠獲得的最好的醫(yī)療保健還要好的醫(yī)療保健，這意味著什么？如果人們通常來說被解放出來，可以從事他們認(rèn)為最有個人成就感的工作，即使這意味著他們必須進(jìn)入新的工作類別，這意味著什么？如果每個人都能擁有自己熱愛的工作，并且像大型公司或大團(tuán)隊一樣擁有資源，這意味著什么？
所以，也許與其在OpenAI擁有800個人，每個人都得到800個更智能的AI系統(tǒng)，這些系統(tǒng)可以做所有這些事情，人們只需創(chuàng)造和制造所有這些東西，我認(rèn)為這真是非凡。我認(rèn)為，這就是我們正在邁向的世界。這將需要大量的工作，除了技術(shù)之外，還需要使其實現(xiàn)，例如社會將不得不做出一些改變。但事實上我們正邁入這個豐裕的時代，我對此感到非常高興。
Trevor：
我這邊就說到這里。我是OpenAI潛在優(yōu)勢的超級粉絲，超級、超級粉絲。我在南非從事教育工作。我的夢想一直是讓每個孩子都能接觸到最好的導(dǎo)師。你明白我的意思嗎？從字面上看，沒有孩子被落下，因為他們可以按照自己的節(jié)奏學(xué)習(xí)。
Sam：
順便問一下，正在使用ChatGPT學(xué)習(xí)東西的孩子們情況如何？這些故事，就像我每天都會收到的郵件一樣。這太棒了。
Trevor：
確實如此。這確實是驚人的。尤其是當(dāng)學(xué)習(xí)變得更加多模態(tài)化時，比如加入視頻，這一切都會變得令人驚嘆。
我夢想著，正如你所說的，醫(yī)療。我夢想著這一切。我認(rèn)為我們沒有足夠討論的一個存在性問題是，一旦人工智能有效地取代了所有這些事情，我們?nèi)绾沃匦露x人類的目標(biāo)？因為，不管你喜歡與否，縱觀歷史，你會發(fā)現(xiàn)我們的目標(biāo)經(jīng)常定義了我們的進(jìn)步。
我們曾經(jīng)的目標(biāo)只是宗教。不管是好是壞，如果你仔細(xì)思考，宗教確實非常擅長讓人們超越自我，向特定的方向思考和行動。他們說：“這是我的目標(biāo)。”我醒來是為了服務(wù)上帝，不管你想到的是哪位上帝。我醒來是為了侍奉神。我醒來是為了取悅上帝。我認(rèn)為，這讓人類覺得自己在朝著某個目標(biāo)前進(jìn)，同時也使他們有一種社區(qū)感和歸屬感。
隨著我們進(jìn)入一個AI消除這一點的世界，我希望我們不要忘記有多少人將他們的完整身份與他們所做的事情而不是他們是誰聯(lián)系在一起。一旦我們將這些角色取代，當(dāng)你沒有職員、秘書、總機(jī)操作員、助理、工廠工人時，我們在歷史上常�？吹綍l(fā)生什么。就像激進(jìn)主義突然冒出來一樣，出現(xiàn)了大規(guī)模的反對。你有想過這個嗎？有沒有辦法在那發(fā)生之前攔截它？
Sam：
你會如何描述我們現(xiàn)在的目標(biāo)是什么？
Trevor：
我認(rèn)為，目前我們的目的是為了生存，這種生存與某種形式的收入生成相關(guān)聯(lián)，因為我們被告知生存的運作方式就是這樣的，你必須賺錢才能生存。但是我們看到，有些時段這種情況發(fā)生了變化。法國有一個很好的例子，他們曾經(jīng)（我認(rèn)為他們現(xiàn)在仍然有一個版本）設(shè)立了一個藝術(shù)家基金，他們會說，我們會支付你作為藝術(shù)家的費用，你只需要創(chuàng)作，讓法國看起來更美麗。那真是太美了。
我知道你是基本收入制度（UBI）的粉絲。是的，我們不應(yīng)該在你談及此事之前離開。
Sam：
我不認(rèn)為人們的生存應(yīng)該與他們愿意或能夠工作的意愿掛鉤。我認(rèn)為這就像是浪費了人的潛能。是的，我完全同意你的看法。
Trevor：
等一下，在你走之前讓我問你這個問題。這就是為什么你認(rèn)為全民基本收入如此重要嗎？因為你不會把時間和金錢浪費在你不相信的事情上，所以你花了大量時間和金錢在普遍基本收入上。我最后看到的是，你參與了一個大約四千萬美元的項目。實際上是六千萬美元。
Sam：
我認(rèn)為普遍基本收入當(dāng)然不是解決我們面前挑戰(zhàn)的全面方案，但我確實認(rèn)為，消除貧困無疑是一件好事。我認(rèn)為更好的資源再分配將會為每個人帶來一個更好的社會。但我認(rèn)為送錢并不是關(guān)鍵部分，像是提供工具和提供治理，我認(rèn)為更為重要。人們想成為未來的建筑師，我認(rèn)為我可以說有一種持續(xù)的意義線索或類似于對人類的使命。
從個人角度來說，肯定是要生存并茁壯成長，但總體而言，我們確實有一種集體的迫切愿望讓未來變得更好。我們經(jīng)常會偏離正題，但人類的故事是：讓未來更美好。那就是技術(shù)，那就是治理，這就是我們對待彼此的方式。這就像去探索星星一樣，那是理解宇宙的方式，無論是什么。我非常有信心，這種信心在我們內(nèi)心深處。無論我們獲得什么工具，那種基礎(chǔ)的渴望，那種人類作為一個物種和個人繁榮的使命，都不會消失。
所以我對兩代人以后的世界充滿了樂觀。但你提到的這一點非常重要，那就是那些已經(jīng)在職業(yè)生涯中，并且實際上相當(dāng)滿意的人，他們并不想要改變。變革即將到來。在之前的技術(shù)革命中，我們看到的一件事是，似乎在大約兩代人的時間里，社會和人們可以適應(yīng)任何程度的工作變化。但不是在十年內(nèi)，當(dāng)然也不是在五年內(nèi)。
我們將要面對這一點，我認(rèn)為在某種程度上，正如我們之前所說，我認(rèn)為這將會比人們想象的要慢，但仍然會比過去社會所需要應(yīng)對的要快。這意味著什么，以及我們?nèi)绾芜m應(yīng)這一點，我確實有點害怕。我們將不得不面對這一問題，我想我們會找到解決辦法。我相信我們會搞定的。
我也相信，如果我們給我們的孩子和孫輩提供比我們更好的工具，他們將會做出令我們驚嘆的事情。我希望他們會為我們所有人生活的糟糕感到非常難過。我希望未來會非常不可思議。這種人類精神和渴望，就像是去探究和表達(dá)自己，設(shè)計出一個越來越好的世界，甚至超越這個世界。我認(rèn)為那太好了，我對此真的很高興。
從某種意義上說，我們不應(yīng)該把這件小事看得太重。在《星球大戰(zhàn)》中，有個反派角色說過一句話：“不要對你創(chuàng)造的這個技術(shù)恐怖感到太過印象深刻。”我想那是達(dá)斯維達(dá)說的。這句話的意思是，這種技術(shù)恐怖無法與原力的威力相提并論。
在某種重要意義上，我確實對人工智能有類似的感覺。我們不應(yīng)該對此感到過于驚訝。比如說，人類精神將會引導(dǎo)我們走過難關(guān)，而且它遠(yuǎn)比任何一場科技革命都更加偉大。
Trevor：
這是一個充滿希望的美麗信息。
我希望你是對的，因為我喜歡這項技術(shù)。
有一件事我想對你說，作為《時代》年度最佳CEO和年度人物之一的薩姆奧特曼，我認(rèn)為你將繼續(xù)保持這種地位，特別是在這個角色上。由于OpenAI和人工智能本身即將對我們產(chǎn)生的巨大影響，我懇請你持續(xù)記住你被解雇時的感受，因為你們正在創(chuàng)造一種會讓許多人處于類似境地的技術(shù)。我看到你有那種人性，我希望在你創(chuàng)造的過程中，你能一直考慮到這一點。
Sam：
你知道我星期六早上，像很早的時候睡不著覺做了什么嗎？我寫下了，我能從中學(xué)到什么，以便在其他人經(jīng)歷類似情況并像我現(xiàn)在指責(zé)董事會一樣指責(zé)我時，我能做得更好。
Trevor：你搞清楚了嗎？
Sam：
有很多有用的單一教訓(xùn)。但是，我從整個經(jīng)歷中獲得的共情和我對價值觀的重新整理，盡管代價慘痛，但我肯定是因禍得福。我很高興在那種意義上擁有了這種經(jīng)歷。
Trevor：
好，山姆，謝謝你的時間。非常感謝，真的很享受這一切。我希望我們能在一年后聊一聊所有的新進(jìn)展。
Sam：
你絕對應(yīng)該來做這件事，那會很有趣。
Trevor：
我會的，兄弟。太棒了。謝謝。
