劃重點(diǎn)
01OpenAI創(chuàng)始人Sam Altman表示，推理模型將是OpenAI未來(lái)的重點(diǎn)，以推動(dòng)科學(xué)研究和復(fù)雜編程等領(lǐng)域的發(fā)展。
02他認(rèn)為無(wú)代碼工具將有助于初創(chuàng)公司解決短期問題，但長(zhǎng)期來(lái)看，專注于為技術(shù)專家提供工具更為重要。
03Altman指出，開源模型在生態(tài)系統(tǒng)中具有重要地位，同時(shí)Agent在實(shí)現(xiàn)長(zhǎng)期任務(wù)方面將發(fā)揮關(guān)鍵作用。
04然而，他提醒關(guān)注者，AI模型的訓(xùn)練成本很高，但復(fù)利效應(yīng)和大規(guī)模用戶支持將使其不斷進(jìn)步。
05最后，他談到了AGI（通用人工智能）時(shí)刻的到來(lái)，認(rèn)為社會(huì)變化將相對(duì)較小，但科學(xué)進(jìn)步將不斷超越普遍預(yù)期。
以上內(nèi)容由大模型生成，僅供參考
人類智力鎖死在了 2021 年。近期，OpenAI CEO Sam Altman 在接受 20VC 的采訪時(shí)表示，AGI 或許會(huì)在 5 年內(nèi)到來(lái)，然而，AGI 到來(lái)如此之快也許是基于一個(gè)假設(shè)：「人類智力已不再發(fā)展」2021 年，GPT 的主要訓(xùn)練告一段落。再往后些，ChatGPT 的一夜躥紅，讓我們的生活與 AI 的聯(lián)系變得密不可分。這不僅改變了我們獲取信息的方式，更改變了我們解決問題的思路。但與此同時(shí)，更多的 AI 也帶來(lái)了更多的 AI 垃圾內(nèi)容。
我們?cè)诶萌祟悢?shù)據(jù)訓(xùn)練 AI 的同時(shí)，也在被 AI 反向訓(xùn)練�？梢哉f，人類知識(shí)的整體在進(jìn)行不斷的低劣的演化，而不是進(jìn)行有創(chuàng)造力的演化。如同 Garbage in，Garbage out，如果 AI 的 output 不能好于它的 input，那么 AI 輸入的智力則是 AI 有可能達(dá)到的天花板。這實(shí)際上是「瓦房店化」現(xiàn)象的擴(kuò)大化。大語(yǔ)言模型本質(zhì)上歸納了人類的知識(shí)，將其統(tǒng)計(jì)成了統(tǒng)計(jì)規(guī)律，并將其轉(zhuǎn)化為概率。而從大模型訓(xùn)練的角度來(lái)看，它旨在訓(xùn)練得到知識(shí)的中位數(shù)，而不是 99 分位或 95 分位，因?yàn)樗菤w納回中位數(shù)的。所以說，AGI 到最后產(chǎn)生了，或許是因?yàn)槿祟惐旧淼闹巧探档土�。此外，Altman 在這次采訪中還透露了許多信息，比如在大模型浪潮的席卷之下，AI 初創(chuàng)公司應(yīng)該尋找怎樣的細(xì)分市場(chǎng)、當(dāng)下熱門的 Agent 是否只是曇花一現(xiàn)，以及 Scaling Laws 是否會(huì)失效等等。在邁向 AGI 的征途上，人類仍然需要探索更多的路徑。太長(zhǎng)省流版：Altman 強(qiáng)調(diào) OpenAI 將致力于推理模型的進(jìn)步，認(rèn)為這一方向?qū)ν苿?dòng)科學(xué)研究和復(fù)雜編程等領(lǐng)域至關(guān)重要，并且 o 系列模型將迅速進(jìn)步。OpenAI 計(jì)劃為沒有技術(shù)背景的創(chuàng)始人開發(fā)無(wú)代碼工具，但最初階段將專注于為技術(shù)人員提供工具。隨著 OpenAI 模型的快速進(jìn)步，許多初創(chuàng)公司解決的短期問題會(huì)在未來(lái)版本的模型中得到解決，因此開發(fā)圍繞這些短板的產(chǎn)品可能并不長(zhǎng)久。Altman 認(rèn)為開源模型將繼續(xù)在生態(tài)系統(tǒng)中發(fā)揮重要作用，并且 AI Agent 的定義是能夠執(zhí)行長(zhǎng)期任務(wù)并最小化監(jiān)督的智能體。盡管 AI 模型的訓(xùn)練成本很高，但由于復(fù)利效應(yīng)和大規(guī)模用戶的支持，Altman 認(rèn)為投資是值得的。在 Altman 看來(lái)，推動(dòng)創(chuàng)新的關(guān)鍵在于建立支持創(chuàng)新的文化和組織，而不是僅僅復(fù)制他人成功的經(jīng)驗(yàn)。
主持人：大家好，歡迎來(lái)到 OpenAI 開發(fā)者日。我是 20VC 的 Harry Stebbings，我非常興奮能夠采訪 Sam Altman。歡迎你，Sam，感謝你今天與我一起進(jìn)行這次采訪。Sam Altman：感謝你的采訪。主持人：現(xiàn)在我們收到了很多觀眾的問題，所以我想從一個(gè)問題開始。當(dāng)我們展望未來(lái)，OpenAI 未來(lái)是會(huì)有更多像 o 這樣的模型，還是會(huì)有更多像我們過去可能預(yù)期的更大規(guī)模模型？如何看待這個(gè)問題？Sam Altman：我們希望在各個(gè)方面都取得進(jìn)展，但推理模型這個(gè)方向?qū)ξ覀儊?lái)說尤為重要。我認(rèn)為推理將解鎖我們多年來(lái)一直期待實(shí)現(xiàn)的許多事情，例如使像這樣的模型能夠?yàn)樾碌目茖W(xué)研究做出貢獻(xiàn)，幫助編寫更多復(fù)雜的代碼。我認(rèn)為這將極大地推動(dòng)我們的進(jìn)步，所以我們應(yīng)該期待 o 系列模型的快速進(jìn)步，這對(duì)我們來(lái)說是具有戰(zhàn)略意義的。主持人：另一個(gè)我覺得非常重要的話題是，當(dāng)我們展望 OpenAI 的未來(lái)計(jì)劃時(shí)，你如何看待為沒有技術(shù)背景的創(chuàng)始人開發(fā)無(wú)代碼工具，幫助他們構(gòu)建和擴(kuò)展 AI 應(yīng)用？你怎么看？Sam Altman：這肯定會(huì)實(shí)現(xiàn)，我認(rèn)為第一步將是為那些擅長(zhǎng)編碼的人提供能提高生產(chǎn)力的工具。但最終，我認(rèn)為我們可以提供高質(zhì)量的無(wú)代碼工具。目前已經(jīng)有一些這樣的工具，它們是有意義的，但你不能僅僅通過無(wú)代碼的方式，構(gòu)建一個(gè)完整的創(chuàng)業(yè)公司，這需要一段時(shí)間。主持人：OpenAI 會(huì)向技術(shù)棧的哪個(gè)層級(jí)進(jìn)軍？如果你花了大量時(shí)間調(diào)優(yōu)你的 RAG 系統(tǒng)，這是否是在浪費(fèi)時(shí)間，因?yàn)?OpenAI 最終可能會(huì)認(rèn)為我將擁有應(yīng)用層的這一部分，還是說這不是浪費(fèi)時(shí)間？Sam Altman：我們?cè)噲D傳達(dá)的信息是，我們將盡最大努力，并堅(jiān)信我們的模型將會(huì)不斷進(jìn)步。如果你正在創(chuàng)建一家公司來(lái)解決當(dāng)前的一些小缺陷，如果我們做得對(duì)，這些缺陷在未來(lái)將不再那么重要。另一方面，如果你建立的公司能從模型不斷改進(jìn)中受益，假設(shè)今天有人預(yù)言 o4 將變得非常強(qiáng)大，能夠完成現(xiàn)在看起來(lái)幾乎不可能的任務(wù)，而你對(duì)此感到高興，那么你可能想錯(cuò)了。但至少這是我們努力的方向。如果你認(rèn)為，在許多領(lǐng)域中，你選擇了一個(gè) o1 預(yù)覽版表現(xiàn)不佳的領(lǐng)域，并創(chuàng)建了一個(gè)僅僅能讓它勉強(qiáng)工作的修補(bǔ)系統(tǒng)，那么你就是在假設(shè)模型的下一次改進(jìn)不會(huì)像我們預(yù)期的那樣好。這是我們?cè)噲D告訴創(chuàng)業(yè)公司的信息：我們相信我們正在走在一個(gè)非常陡峭的改進(jìn)軌道上，今天模型的現(xiàn)有短板將在未來(lái)的版本中得到解決。
AI 初創(chuàng)公司的「活路」在哪里？主持人：如果今天你是一個(gè)創(chuàng)始人在構(gòu)建公司，你會(huì)在哪里認(rèn)為 OpenAI 可能會(huì)進(jìn)來(lái)碾壓你，而又在哪些地方不會(huì)？另外，作為一個(gè)投資人，我也在嘗試投資那些不會(huì)被影響的機(jī)會(huì)，那么創(chuàng)始人和我作為投資人，應(yīng)該如何看待這個(gè)問題？Sam Altman：通過使用人工智能來(lái)構(gòu)建以前不可能或相當(dāng)不切實(shí)際的產(chǎn)品和服務(wù)，將會(huì)創(chuàng)造出數(shù)萬(wàn)億美元的新市場(chǎng)市值。我們?cè)噲D使其更具相關(guān)性的一個(gè)領(lǐng)域是，我們希望模型變得非常好，這樣你就不必費(fèi)力去讓它們做你想要的事。至于建立在這項(xiàng)新技術(shù)上的這些令人難以置信的產(chǎn)品和服務(wù)，我們認(rèn)為它們會(huì)變得越來(lái)越好。在早期，我感到驚訝的是，在 GPT-3.5 時(shí)代（這種情況現(xiàn)在已經(jīng)改變），大約 95% 的初創(chuàng)公司都在押注模型不會(huì)變得更好。當(dāng)時(shí)我們已經(jīng)預(yù)見到 GPT-4 的到來(lái)，我們認(rèn)為它將會(huì)非常出色，不再有那些問題。如果你只是創(chuàng)建一個(gè)工具來(lái)解決模型的某個(gè)缺陷，這個(gè)缺陷將變得越來(lái)越不重要。我們經(jīng)常忘記僅僅幾年前模型的表現(xiàn)有多糟糕，盡管時(shí)間并不長(zhǎng)，但那時(shí)確實(shí)存在很多問題。因此，當(dāng)時(shí)似乎那些領(lǐng)域非常適合構(gòu)建一些東西來(lái)填補(bǔ)這個(gè)空白，而不是創(chuàng)建像偉大的 AI 輔導(dǎo)員或 AI 醫(yī)療顧問這樣的產(chǎn)品。所以，我當(dāng)時(shí)覺得 95% 的人都在押注模型不會(huì)變得更好，只有 5% 的人認(rèn)為模型會(huì)變得更好。我認(rèn)為這種情況現(xiàn)在已經(jīng)發(fā)生了逆轉(zhuǎn)。人們已經(jīng)意識(shí)到模型改進(jìn)的速度，并理解了我們計(jì)劃做的事情。因此，現(xiàn)在這個(gè)問題似乎不再那么嚴(yán)重，但那曾是我們非常擔(dān)心的問題，因?yàn)槲覀兛吹搅四切┓浅Ｅぷ鞯娜藢⒚媾R的挑戰(zhàn)。主持人：你提到創(chuàng)造數(shù)萬(wàn)億美元的價(jià)值。對(duì)了，我不確定你是否看到過，杰夫馬薩曾在臺(tái)上說過，每年將創(chuàng)造 9 萬(wàn)億美元的價(jià)值，這將抵消他認(rèn)為需要的 9 萬(wàn)億美元資本支出。我很好奇，當(dāng)你看到這一點(diǎn)時(shí)是怎么想的？你是如何思考的？
Sam Altman：我無(wú)法精確地評(píng)估，我認(rèn)為如果我們能把這一切做到位，達(dá)到幾個(gè)數(shù)量級(jí)的改進(jìn)，就已經(jīng)足夠好了。目前顯然會(huì)有大量的資本支出，同時(shí)也會(huì)創(chuàng)造大量的價(jià)值。這種情況在每一次重大的技術(shù)革命中都會(huì)出現(xiàn)，而這顯然也是其中的一次。如你所料，明年將是我們邁向下一代系統(tǒng)的重要一年。你提到過可能會(huì)出現(xiàn)一個(gè)無(wú)代碼的軟件代理。我不知道這需要多久才能實(shí)現(xiàn)。但如果我們以此為例，向未來(lái)想象一下，考慮一下會(huì)發(fā)生什么？想一想如果任何人都能簡(jiǎn)單地描述出他們想要的整套公司軟件，這會(huì)為世界帶來(lái)多大的經(jīng)濟(jì)價(jià)值。顯然這離我們還有很長(zhǎng)的路要走。但當(dāng)我們到達(dá)這個(gè)點(diǎn)并實(shí)現(xiàn)它時(shí)，想一想它是多么困難和昂貴。現(xiàn)在再想想它所能創(chuàng)造的價(jià)值。如果我們能在保持相同價(jià)值的前提下，讓它變得更加普及且更加便宜，那就真的是非常強(qiáng)大。我認(rèn)為我們將看到更多類似的例子，就像我之前提到的醫(yī)療和教育，這兩者對(duì)世界的價(jià)值是數(shù)萬(wàn)億美元。如果 AI 真正能夠推動(dòng)這一進(jìn)程，并以一種與以往完全不同的方式進(jìn)行，我認(rèn)為數(shù)字本身并不是重點(diǎn)。關(guān)于是 9 萬(wàn)億美元還是 1 萬(wàn)億美元的爭(zhēng)論，或者其他任何數(shù)字你知道，這需要比我更聰明的人來(lái)解決。但從價(jià)值創(chuàng)造的角度來(lái)看，這才是令人難以置信的。怎么看待開源與 Agent？主持人：開源無(wú)疑是一個(gè)非常重要的交付方式，你怎么看待開源在 AI 未來(lái)中的角色？當(dāng)問到是否應(yīng)該開源某些模型或全部模型時(shí)，內(nèi)部討論通常是怎樣的？Sam Altman：開源模型在整個(gè)生態(tài)系統(tǒng)中顯然占有非常重要的位置�，F(xiàn)在也確實(shí)存在一些非常優(yōu)秀的開源模型。我認(rèn)為也有適當(dāng)?shù)氖袌?chǎng)為集成服務(wù)和 API 提供良好的解決方案。我認(rèn)為所有這些東西都可以提供，而人們會(huì)根據(jù)自己的需求選擇適合自己的交付方式。所以我們有開源作為一種交付給客戶的方式，也是一個(gè)傳遞價(jià)值的機(jī)制，同時(shí)也可以通過 Agent 來(lái)交付。主持人：關(guān)于 Agent，很多時(shí)候人們?cè)诙x它時(shí)存在一些語(yǔ)義上的混亂。你今天如何定義 Agent？你認(rèn)為什么是 Agent，什么又不是？
