展會(huì)信息港展會(huì)大全

黃仁勛:AI算力集群會(huì)擴(kuò)展到100萬(wàn)芯片,沒(méi)有任何物理定律可阻止
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2024-11-08 19:23:11   瀏覽:131次  

導(dǎo)讀:劃重點(diǎn)01英偉達(dá)創(chuàng)始人黃仁勛表示,AI數(shù)據(jù)中心有望擴(kuò)展到一百萬(wàn)芯片,沒(méi)有任何物理定律可以阻止。02他提出超級(jí)摩爾定律,將每年性能提升兩到三倍,使成本和能耗每年降低兩到三倍。03黃仁勛認(rèn)為,AI芯片設(shè)計(jì)和英偉達(dá)的運(yùn)作方式將引領(lǐng)計(jì)算行業(yè)的變革。04此外,他預(yù)測(cè)未來(lái)將擁有各種大小的模型,從巨型到小型,各種模型將在特定任務(wù)上表現(xiàn)出色。05最后,黃仁勛強(qiáng)調(diào),英偉達(dá)將繼續(xù)投 ......

劃重點(diǎn)

01英偉達(dá)創(chuàng)始人黃仁勛表示,AI數(shù)據(jù)中心有望擴(kuò)展到一百萬(wàn)芯片,沒(méi)有任何物理定律可以阻止。

02他提出超級(jí)摩爾定律,將每年性能提升兩到三倍,使成本和能耗每年降低兩到三倍。

03黃仁勛認(rèn)為,AI芯片設(shè)計(jì)和英偉達(dá)的運(yùn)作方式將引領(lǐng)計(jì)算行業(yè)的變革。

04此外,他預(yù)測(cè)未來(lái)將擁有各種大小的模型,從巨型到小型,各種模型將在特定任務(wù)上表現(xiàn)出色。

05最后,黃仁勛強(qiáng)調(diào),英偉達(dá)將繼續(xù)投資人工智能和數(shù)據(jù)中心領(lǐng)域,以應(yīng)對(duì)未來(lái)的挑戰(zhàn)。

以上內(nèi)容由大模型生成,僅供參考

夢(mèng)晨 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI

英偉達(dá)市值重回第一之際,黃仁勛再次接受采訪(fǎng)。

除了談自己和英偉達(dá),還吹了一波馬斯克,再再再次贊賞xAI只花19天建起10萬(wàn)卡H100超級(jí)集群。

傳聞英偉達(dá)正在考慮投資xAI,或許此言不虛。

黃仁勛:AI算力集群會(huì)擴(kuò)展到100萬(wàn)芯片,沒(méi)有任何物理定律可阻止

在這場(chǎng)訪(fǎng)談中他提出,沒(méi)有任何物理定律可以阻止AI數(shù)據(jù)中心擴(kuò)展到一百萬(wàn)芯片。

這很難,但重新發(fā)明智能的回報(bào)太大,無(wú)法不去嘗試。

為此他還提出了超級(jí)摩爾定律,從每?jī)赡晷阅芊叮兂?strong>每年翻兩到三倍。

并指路了具體實(shí)現(xiàn)途徑,軟硬件協(xié)同設(shè)計(jì)數(shù)據(jù)中心級(jí)創(chuàng)新。

圍觀(guān)網(wǎng)友表示:很驚人,但更驚人的是我毫不懷疑他們真的能做到。

黃仁勛:AI算力集群會(huì)擴(kuò)展到100萬(wàn)芯片,沒(méi)有任何物理定律可阻止

這是老黃第二次參加訪(fǎng)談節(jié)目No Priors,距離上次時(shí)隔一年。

在這場(chǎng)36分鐘的訪(fǎng)談中,老黃還透露了更多行業(yè)內(nèi)幕和對(duì)未來(lái)的設(shè)想:

摩爾定律的兩個(gè)基本技術(shù)支柱已經(jīng)遇到瓶頸

ChatGPT正在舊的訓(xùn)練集群上做推理,英偉達(dá)基礎(chǔ)設(shè)施可以在訓(xùn)練和推理中相互轉(zhuǎn)換

英偉達(dá)不直接把數(shù)據(jù)中心當(dāng)產(chǎn)品銷(xiāo)售,但必須像對(duì)待產(chǎn)品一樣對(duì)待它

xAI迅速建起超級(jí)集群主要?dú)w功于馬斯克的意志力和執(zhí)行力

英偉達(dá)內(nèi)部高度依賴(lài)AI芯片設(shè)計(jì),如果沒(méi)有AI,造不出Hopper架構(gòu)

半導(dǎo)體行業(yè)并不是關(guān)于制造芯片,而是關(guān)于為社會(huì)構(gòu)建基礎(chǔ)結(jié)構(gòu)

AI智能體不會(huì)干掉SaaS,SaaS銷(xiāo)售專(zhuān)業(yè)智能體會(huì)帶來(lái)繁榮發(fā)展

兩三年后,每篇論文、每項(xiàng)科學(xué)和工程突破都會(huì)以AI

老黃現(xiàn)在每天學(xué)習(xí)任何東西都會(huì)先用AI,即使是最基礎(chǔ)的事實(shí)也會(huì)用AI反復(fù)核查

……

以下是采訪(fǎng)全文編譯整理。

英偉達(dá)未來(lái)十年的賭注主持人:

英偉達(dá)已經(jīng)走過(guò)了30年,展望未來(lái)的十年,您認(rèn)為還有哪些重要的賭注需要下?接下來(lái)是否只需擴(kuò)大規(guī)模?在從現(xiàn)有架構(gòu)中榨取更多計(jì)算和內(nèi)存方面,我們是否遇到了限制?您目前的關(guān)注重點(diǎn)是什么?

黃仁勛:

如果退一步思考我們所取得的成就,我們已經(jīng)從編程走向了機(jī)器學(xué)習(xí),從編寫(xiě)軟件工具到創(chuàng)建一個(gè)全新的生態(tài)系統(tǒng)。

所有這些最初都運(yùn)行在為人類(lèi)編程設(shè)計(jì)的CPU上,如今則運(yùn)行在為AI編程設(shè)計(jì)的GPU上,主要是機(jī)器學(xué)習(xí)。

世界已經(jīng)改變,我們進(jìn)行計(jì)算的方式、整個(gè)技術(shù)棧都發(fā)生了變化。

我們能夠解決的問(wèn)題的規(guī)模也發(fā)生了巨大變化,如果你能在一塊GPU上并行化你的軟件,你就為在整個(gè)集群、甚至多個(gè)集群或數(shù)據(jù)中心上并行化奠定了基礎(chǔ)。

我認(rèn)為,我們已經(jīng)為將計(jì)算擴(kuò)展到無(wú)人想象過(guò)的水平做好了準(zhǔn)備,并在這個(gè)水平上開(kāi)發(fā)軟件。

接下來(lái)的十年里,我們希望每年在整體規(guī)模上(而非單個(gè)芯片上)將性能提升兩到三倍,從而使成本和能耗每年降低兩到三倍。

當(dāng)你每年都翻倍或三倍增長(zhǎng),幾年下來(lái),這種復(fù)合增長(zhǎng)會(huì)非常驚人。

我們能超越人們對(duì)摩爾定律的理解,即每?jī)赡晷阅芊叮覀儗⑦M(jìn)入某種“超級(jí)摩爾定律”的曲線(xiàn)。

如何超越摩爾定律主持人:

你認(rèn)為是什么讓這一切比摩爾定律發(fā)生得更快?我知道摩爾定律有點(diǎn)自我實(shí)現(xiàn)的性質(zhì),先提出了這個(gè)想法,然后人們努力去實(shí)現(xiàn)它。

黃仁勛:

(摩爾定律)有兩個(gè)基本的技術(shù)支柱。一個(gè)是Dennard Scaling,另一個(gè)是Carver Mead’s VLSI Scaling。

這些都是嚴(yán)格的方法,但相關(guān)技術(shù)確實(shí)已經(jīng)到了瓶頸。因此,我們現(xiàn)在需要一種新的擴(kuò)展方式。

首先,新的縮放方式顯然涉及到(軟硬件)協(xié)同設(shè)計(jì)。

除非你能修改或改變算法以反映系統(tǒng)的架構(gòu),或者改變系統(tǒng)以適應(yīng)新軟件的架構(gòu),來(lái)回迭代,否則你毫無(wú)希望。

但如果你能同時(shí)控制這兩方面,你就可以做一些事情,比如從FP64到FP32,再到BFLOAT,再到FP8,甚至FP4,甚至更小的精度。

所以我認(rèn)為,協(xié)同設(shè)計(jì)是其中非常重要的一部分。

第二部分,我們稱(chēng)之為全棧優(yōu)化,是數(shù)據(jù)中心級(jí)別的創(chuàng)新。

我們現(xiàn)在處理的大多數(shù)計(jì)算挑戰(zhàn),其中一個(gè)最令人興奮的當(dāng)然是推理時(shí)間的擴(kuò)展,基本上是以極低的延遲生成token,進(jìn)行樹(shù)搜索,鏈?zhǔn)剿季S,可能在腦海中進(jìn)行一些模擬,反思自己的答案。

AI將自我提示,默默地生成文本,并希望在一秒鐘內(nèi)做出響應(yīng)。唯一能做到這一點(diǎn)的方法是你的延遲極低。

與此同時(shí),數(shù)據(jù)中心仍然需要產(chǎn)生高吞吐量的token,因?yàn)槟闳匀幌M档统杀荆3指咄掏铝,?shí)現(xiàn)回報(bào)。

這兩個(gè)基本要求低延遲和高吞吐量是彼此矛盾的。

為了創(chuàng)造在兩者上都非常出色的東西,我們必須去發(fā)明一些新東西,NVLink正是我們實(shí)現(xiàn)這一目標(biāo)的方式!

訓(xùn)練和推理基礎(chǔ)設(shè)施的相互轉(zhuǎn)換主持人:

您的大客戶(hù)中,有多少人在考慮基礎(chǔ)設(shè)施在大規(guī)模訓(xùn)練和推理之間的相互轉(zhuǎn)換?

黃仁勛:

現(xiàn)在的基礎(chǔ)設(shè)施是解耦的。

Sam(Altman)剛剛告訴我,他最近退役了Volta。他們有Pascal,有Ampere,各種不同配置的Blackwell即將到來(lái)。

有些是為風(fēng)冷優(yōu)化的,有些是為液冷優(yōu)化的,你的服務(wù)需要利用所有這些。

英偉達(dá)的優(yōu)勢(shì)在于,今天為訓(xùn)練構(gòu)建的基礎(chǔ)設(shè)施,明天將非常適合用于推理。我相信,大部分的ChatGPT服務(wù)都是在最近用于訓(xùn)練的同類(lèi)型系統(tǒng)上進(jìn)行推理的。

如果你能在上面訓(xùn)練,你就能在上面推理。

你完全有信心這些投資會(huì)得到回報(bào),然后投入新的基礎(chǔ)設(shè)施來(lái)擴(kuò)大規(guī)模。

而且英偉達(dá)和整個(gè)生態(tài)系統(tǒng)將致力于改進(jìn)算法,使你的基礎(chǔ)設(shè)施在短短一年內(nèi)性能提高五倍,這種進(jìn)展永遠(yuǎn)不會(huì)改變。

因此,人們將這樣看待他們的基礎(chǔ)設(shè)施:

是的,盡管今天為訓(xùn)練而構(gòu)建它,同時(shí)會(huì)知道它將在推理方面也會(huì)非常出色。

而推理將是多尺度的。

首先,為了蒸餾出更小的模型,擁有一個(gè)更大的模型作為源頭是很好的。因此,你仍然會(huì)創(chuàng)造這些令人難以置信的前沿模型,它們將用于開(kāi)創(chuàng)性的工作,用來(lái)生成合成數(shù)據(jù),用大模型來(lái)教授小模型,蒸餾出更小的模型。

但最終,你會(huì)有從巨型到小型的各種模型。小型模型將在特定任務(wù)上非常有效,雖然泛化能力不如大模型,但在那個(gè)任務(wù)上表現(xiàn)非常出色。我們將在一個(gè)小小的領(lǐng)域中看到超越人類(lèi)的任務(wù),由一個(gè)小小的模型完成。也許這不是一個(gè)小語(yǔ)言模型,而是一個(gè)微型語(yǔ)言模型,Tiny Language Model,或者其他什么。

所以我認(rèn)為我們會(huì)看到各種大小的模型,我們的希望是,就像今天的軟件一樣。

構(gòu)建和交付完整的數(shù)據(jù)中心主持人:

英偉達(dá)為客戶(hù)提供的支持正在像更大的規(guī)模發(fā)展,從單個(gè)芯片到服務(wù)器,再到機(jī)架,再到NV72,您如何看待這一進(jìn)程?接下來(lái)會(huì)是什么?英偉達(dá)是否應(yīng)該做整個(gè)數(shù)據(jù)中心?

黃仁勛:

事實(shí)上,我們確實(shí)構(gòu)建了完整的數(shù)據(jù)中心。

我們的做事方式是,如果你要開(kāi)發(fā)軟件,你需要完整形式的計(jì)算機(jī)。我們不會(huì)只做幻燈片演示然后交付芯片,我們構(gòu)建整個(gè)數(shù)據(jù)中心。

在完成整個(gè)數(shù)據(jù)中心之前,你怎么知道軟件是否正常工作?在整個(gè)數(shù)據(jù)中心建成之前,你怎么知道你的網(wǎng)絡(luò)是否正常工作,以及你期望的效率是否達(dá)到了?

這就是為什么通?吹侥承┊a(chǎn)品的實(shí)際性能遠(yuǎn)低于他們?cè)诨脽羝险故镜姆逯敌阅艿脑?/strong>。

計(jì)算已經(jīng)不像過(guò)去那樣。我常說(shuō),新的計(jì)算單位是數(shù)據(jù)中心。

對(duì)于我們來(lái)說(shuō),這就是你必須交付的東西,這就是我們現(xiàn)在構(gòu)建的東西,我們構(gòu)建整個(gè)系統(tǒng),并且以完整的形式構(gòu)建它。

然后以各種組合進(jìn)行測(cè)試,風(fēng)冷的x86,液冷的Grace,以太網(wǎng),Infiniband,加上NVLink,不加NVLink,等等。

我們構(gòu)建每一種配置,我們公司現(xiàn)在有五臺(tái)超級(jí)計(jì)算機(jī),明年我們很容易再建五臺(tái)。

如果你對(duì)軟件很認(rèn)真,你就會(huì)構(gòu)建自己的計(jì)算機(jī),并且我們以“數(shù)據(jù)中心即產(chǎn)品”的方式構(gòu)建它們。

盡管我們不直接銷(xiāo)售數(shù)據(jù)中心作為產(chǎn)品,但我們必須像對(duì)待產(chǎn)品一樣對(duì)待它。

關(guān)于它的規(guī)劃、建立、優(yōu)化、調(diào)整、保持運(yùn)行的一切,目標(biāo)是讓它像打開(kāi)你的嶄新iPhone一樣,一切都能正常工作。

當(dāng)然,這背后有技術(shù)的奇跡,但我們現(xiàn)在有能力做到這一點(diǎn)。

因此,如果你對(duì)數(shù)據(jù)中心感興趣,只需要給我一個(gè)空間,一些電力和冷卻系統(tǒng),我們將在30天內(nèi)幫助你建立起來(lái)。這是非常了不起的。

xAI的超級(jí)集群主持人:

最近有一個(gè)令人印象深刻的案例,就是你們?yōu)閤AI迅速建立了一個(gè)集群。如果你愿意,請(qǐng)談?wù)勥@個(gè)案例,因?yàn)闊o(wú)論是規(guī)模還是速度都令人震驚。

黃仁勛:

很多功勞要?dú)w功于馬斯克。

首先,決定去做這件事,選擇場(chǎng)地,引入冷卻和電力,然后決定建立一個(gè)擁有10萬(wàn)個(gè)GPU的超級(jí)集群,這是有史以來(lái)最大的規(guī)模。

然后倒推日程,我們一起規(guī)劃他要啟動(dòng)系統(tǒng)的日期,這個(gè)日期是在幾個(gè)月前確定的。

所有的組件、OEM、系統(tǒng)、我們與他們團(tuán)隊(duì)的軟件集成、所有的網(wǎng)絡(luò)模擬,我們都預(yù)先以數(shù)字孿生的方式模擬了他的網(wǎng)絡(luò)配置。我們預(yù)先準(zhǔn)備了他的供應(yīng)鏈,預(yù)先安排了所有的網(wǎng)絡(luò)布線(xiàn)。我們甚至建立了一個(gè)小規(guī)模的版本作為參考,以便在所有設(shè)備到達(dá)之前進(jìn)行測(cè)試。

到所有設(shè)備到達(dá)的時(shí)候,一切都已經(jīng)準(zhǔn)備就緒,所有的練習(xí)都完成了,所有的模擬都完成了,然后是大規(guī)模的集成,龐大的團(tuán)隊(duì)在一起晝夜不停地工作,幾周內(nèi)集群就啟動(dòng)了。

這真的是他(馬斯克)的意志力和他能夠思考機(jī)械、電氣問(wèn)題并克服巨大障礙的證明。

主持人:

如果你展望未來(lái),達(dá)到20萬(wàn)、50萬(wàn)、100萬(wàn)的超級(jí)集群,您認(rèn)為最大的障礙是什么?資本、能源、供應(yīng)?

黃仁勛:

你剛才提到的這些因素,沒(méi)有一件是輕松的。

是否值得追求這樣的規(guī)模擴(kuò)展?毋庸置疑是值得的。

要達(dá)到我們想象中的那種計(jì)算機(jī),能夠輕松地完成我們要求它做的事情,具有某種通用智能。甚至我們可以爭(zhēng)論它是否真的具有通用智能,但即使接近它也是一個(gè)奇跡。

我認(rèn)為有五到六個(gè)團(tuán)隊(duì)在努力嘗試實(shí)現(xiàn)這一目標(biāo),有OpenAI、Anthropic、xAI,當(dāng)然還有谷歌、Meta、微軟等公司。

這個(gè)前沿領(lǐng)域,在攀登這座山峰的過(guò)程中,接下來(lái)的幾步是至關(guān)重要的。誰(shuí)不想成為登上這座山峰的第一人?

我認(rèn)為,重新發(fā)明智能的獎(jiǎng)賞太過(guò)重要,無(wú)法不去嘗試

我認(rèn)為,沒(méi)有物理定律的限制,但一切都會(huì)很難。

AI芯片設(shè)計(jì)和英偉達(dá)的運(yùn)作方式主持人:

一年前,當(dāng)我們一起交談時(shí),我們問(wèn)過(guò)您,英偉達(dá)在人工智能和其他領(lǐng)域中,您對(duì)哪些應(yīng)用程序最感興趣,接下來(lái)將為客戶(hù)提供哪些服務(wù),您談到了您最極端客戶(hù)的一些科學(xué)應(yīng)用。

在過(guò)去的一年中,這已經(jīng)成為更主流的觀(guān)點(diǎn)。人工智能在科學(xué)中的應(yīng)用是否依然最令您興奮?

黃仁勛:

我很高興在英偉達(dá)有AI“芯片設(shè)計(jì)師”,有AI“軟件工程師”。

它們非常高效,如果沒(méi)有它們,我們無(wú)法構(gòu)建Hopper。

它們與人類(lèi)相比可以探索更大的空間,因?yàn)樗鼈冇袩o(wú)限的時(shí)間,它們?cè)诔?jí)計(jì)算機(jī)上運(yùn)行。我們的人類(lèi)工程師時(shí)間有限,無(wú)法探索盡可能多的空間,也無(wú)法組合地探索空間。

我無(wú)法在自己探索的同時(shí),涵蓋你的探索和其他人的探索。

我們的芯片如此之大,它們并不是作為一個(gè)芯片設(shè)計(jì)的,而是像一千個(gè)芯片那樣設(shè)計(jì)的。我們必須分別優(yōu)化每一個(gè)。

你真的想要優(yōu)化更多的模塊,跨模塊協(xié)同設(shè)計(jì),優(yōu)化更大的空間。

沒(méi)有人工智能,我們的工程師無(wú)法做到,我們沒(méi)有足夠的時(shí)間。

主持人:

自從我們上次交談以來(lái),還有一件事發(fā)生了變化。我查了一下,當(dāng)時(shí)英偉達(dá)的市值約為5000億美元,如今已超過(guò)3萬(wàn)億美元。在過(guò)去的18個(gè)月里增加了2.5萬(wàn)億美元的市值,相當(dāng)于每月增加了1000多億美元。

今天早些時(shí)候我來(lái)到英偉達(dá)公司,感受到了公司的活力,就像15年前我在谷歌時(shí)一樣,能感受到公司的能量和興奮。

在這段時(shí)間里,有什么變化嗎?或者說(shuō),有什么不同之處,無(wú)論是英偉達(dá)的運(yùn)作方式,還是您對(duì)世界的看法,或者您可以采取的賭注的規(guī)模?

黃仁勛:

公司無(wú)法像股價(jià)那樣快速變化,所以在很多方面,我們并沒(méi)有太大改變。

我認(rèn)為,我們需要退一步,問(wèn)問(wèn)自己,我們?cè)谧鍪裁矗?br/>

從行業(yè)角度來(lái)看,我們重新發(fā)明了計(jì)算。它已經(jīng)60年沒(méi)有被重新發(fā)明過(guò)了,這是一件多么重要的事情。

在過(guò)去的10年里,我們將計(jì)算的邊際成本降低了大約一百萬(wàn)倍,以至于我們可以說(shuō),讓計(jì)算機(jī)去窮舉地編寫(xiě)軟件吧。

某種程度上,我們可以說(shuō),我們也在芯片設(shè)計(jì)中說(shuō)了同樣的話(huà)。我們希望計(jì)算機(jī)去發(fā)現(xiàn)一些我們自己無(wú)法做到的關(guān)于芯片的東西,探索我們的芯片,并以我們無(wú)法做到的方式優(yōu)化它。

因此,人們開(kāi)始意識(shí)到,我們重新發(fā)明了計(jì)算。

但這究竟意味著什么?突然之間,我們創(chuàng)造了一個(gè)稱(chēng)為“智能”的東西,那么計(jì)算發(fā)生了什么變化呢?

我們從數(shù)據(jù)中心開(kāi)始。

數(shù)據(jù)中心是存儲(chǔ)文件的多租戶(hù)場(chǎng)所。而我們正在創(chuàng)建的新型數(shù)據(jù)中心并不是傳統(tǒng)的數(shù)據(jù)中心。它們不是多租戶(hù)的,往往是單租戶(hù)的。它們不存儲(chǔ)任何文件,只是在生成一些東西它們?cè)谏蓆okens。

這些tokens被重新組合成看似智能的東西,而這種智能有各種不同的形式,可能是機(jī)器人的動(dòng)作表達(dá),可能是氨基酸的序列,可能是化學(xué)鏈,或者各種有趣的東西。

那么,我們究竟在做什么?我們創(chuàng)造了一種新工具,一種新的機(jī)器,在很多方面,它是“生成式人工智能”這個(gè)形容詞的名詞形式。

與其說(shuō)是生成式人工智能,不如說(shuō)是一個(gè)人工智能工廠(chǎng)。它是一個(gè)生成人工智能的工廠(chǎng),而且我們正在以極大的規(guī)模來(lái)實(shí)現(xiàn)這一點(diǎn)。

人們開(kāi)始意識(shí)到,這可能是一個(gè)新行業(yè)。它生成tokens,生成數(shù)字,但這些數(shù)字以相當(dāng)有價(jià)值的方式組成。那么,哪些行業(yè)會(huì)從中受益?

然后,你再退一步,問(wèn)自己英偉達(dá)在做什么。

一方面,我們重新發(fā)明了我們所知道的計(jì)算,因此有價(jià)值數(shù)萬(wàn)億美元的基礎(chǔ)設(shè)施需要現(xiàn)代化,這是其中一層。

更大的層面是,我們正在構(gòu)建的這個(gè)工具不僅僅是為了我們正在現(xiàn)代化的數(shù)據(jù)中心,而是用于生產(chǎn)一些新的商品。這個(gè)新商品行業(yè)能有多大?很難說(shuō),但可能價(jià)值數(shù)萬(wàn)億美元。

所以,如果你退一步看,我們不再制造計(jì)算機(jī)了,我們?cè)谥圃旃S(chǎng)。

每個(gè)地方都需要它,每個(gè)公司都需要它。你能舉出一個(gè)公司或行業(yè)說(shuō)“你知道嗎,我們不需要生產(chǎn)智能,我們已經(jīng)擁有足夠多了”嗎?

所以,我認(rèn)為這是一個(gè)重大理念,這是一種抽象的產(chǎn)業(yè)視角。

有一天,人們會(huì)意識(shí)到,在很多方面,半導(dǎo)體行業(yè)并不是關(guān)于制造芯片,而是關(guān)于為社會(huì)構(gòu)建基礎(chǔ)結(jié)構(gòu)。然后,突然之間,大家都會(huì)說(shuō):“啊,我明白了,這是件大事。”

具身智能主持人:

您現(xiàn)在如何看待“具身化”?

黃仁勛:

我非常興奮的一點(diǎn)是,在很多方面,我們接近于人工通用智能,但我們也接近于人工通用機(jī)器人。token就是token,問(wèn)題是你能否將其token化。

當(dāng)然,正如你們所知,token化并不容易。但如果你能夠?qū)⑹挛飔oken化,與大型語(yǔ)言模型和其他模態(tài)對(duì)齊,假如可以生成一個(gè)視頻,內(nèi)容是我伸手去拿咖啡杯,為什么我不能提示機(jī)器人生成能夠拿起咖啡杯的token呢?

直覺(jué)上,你會(huì)認(rèn)為對(duì)于計(jì)算機(jī)來(lái)說(shuō),問(wèn)題陳述是相當(dāng)相似的。所以,我認(rèn)為我們非常接近了,這令人難以置信的興奮。

現(xiàn)在,有兩個(gè)“棕地”(Brownfield)機(jī)器人系統(tǒng)“棕地”意味著你不需要改變環(huán)境即自動(dòng)駕駛汽車(chē)和具身機(jī)器人。

通過(guò)汽車(chē)和人形機(jī)器人,我們實(shí)際上可以在不改變世界的情況下將機(jī)器人帶到世界上,因?yàn)槲覀円呀?jīng)為這兩樣?xùn)|西構(gòu)建了世界。

也許馬斯克專(zhuān)注于這兩種形式的機(jī)器人并非巧合,因?yàn)樗鼈兛赡芫哂芯薮蟮臐撛谝?guī)模。

所以,我認(rèn)為這是令人興奮的,但其數(shù)字版本同樣令人興奮。

我們正在談?wù)摰氖菙?shù)字員工或AI員工。毫無(wú)疑問(wèn),我們將擁有各種各樣的AI員工。未來(lái)將擁有生物智能和人工智能,我們以相同的方式去提示(Prompt)它們。

我大多數(shù)時(shí)候都是提示我的員工,向他們提供背景,要求他們執(zhí)行任務(wù),他們會(huì)去招募其他團(tuán)隊(duì)成員,然后回來(lái),我們來(lái)回溝通。這與各種AI員工有何不同呢?

所以,我們將擁有人工智能營(yíng)銷(xiāo)人員、人工智能芯片設(shè)計(jì)師、人工智能供應(yīng)鏈人員等等。

我希望有一天,英偉達(dá)在生物智能層面上變得更大,但在人工智能層面上變得大得多。這是我們未來(lái)的公司。

主持人:

如果我們一年后再來(lái)和您交談,您認(rèn)為公司哪個(gè)部分最具人工智能化?

黃仁勛:

我希望是芯片設(shè)計(jì),這是最重要的部分。因?yàn)樗鼘?duì)我們的影響最大,也是我們可以產(chǎn)生最大影響力的地方,這是一個(gè)極其困難的問(wèn)題。

我們與Synopsys和Cadence合作。我完全可以想象他們擁有AI芯片設(shè)計(jì)師給我租用,他們對(duì)特定的模塊有所了解,熟練使用特定的工具,我們將根據(jù)需要雇傭一大批他們的人工智能設(shè)計(jì)師,在芯片設(shè)計(jì)的對(duì)應(yīng)階段幫助我們。

也許我會(huì)租用一百萬(wàn)個(gè)Synopsys的工程師來(lái)幫助我,然后再租用一百萬(wàn)個(gè)Cadence的工程師來(lái)幫助我。對(duì)他們來(lái)說(shuō),這是一個(gè)多么令人興奮的未來(lái),他們擁有所有這些智能體,在他們的工具平臺(tái)之上并與其他平臺(tái)協(xié)作。

你也會(huì)在SAP和ServiceNow那里這樣做。人們說(shuō)這些SaaS平臺(tái)將被顛覆,我實(shí)際上認(rèn)為相反,他們正坐在金礦上,如Salesforce、SAP等將因?qū)I(yè)智能體繁榮發(fā)展。

Salesforce有Lightning,SAP有ABAP,每個(gè)人都有自己的語(yǔ)言,對(duì)嗎?我們有CUDA,還有用于Omniverse的OpenUSD。

誰(shuí)會(huì)創(chuàng)建一個(gè)在OpenUSD上非常出色AI智能體?我們會(huì),因?yàn)闆](méi)有人比我們更關(guān)心它。

因此,我認(rèn)為在很多方面,這些平臺(tái)將涌現(xiàn)出大量的智能體,我們將把它們彼此引介,它們將協(xié)同合作,解決問(wèn)題。

AI for Science主持人:

您看到有許多人在人工智能的各個(gè)領(lǐng)域工作,您認(rèn)為有哪些被低估的領(lǐng)域,或者您希望更多的企業(yè)家、工程師或商業(yè)人士參與哪些方面的工作?

黃仁勛:

首先,我認(rèn)為被誤解和低估的是在水面之下的活動(dòng),即在人工智能和機(jī)器學(xué)習(xí)影響下的突破性科學(xué)、計(jì)算機(jī)科學(xué)和工程學(xué)。

我認(rèn)為,你無(wú)法走進(jìn)任何一個(gè)科學(xué)系、理論數(shù)學(xué)系,而不看到人工智能和機(jī)器學(xué)習(xí),以及我們今天所談?wù)摰倪@些工作將如何在明天帶來(lái)變革。

如果你把世界上的所有工程師、所有科學(xué)家聚在一起,并且你認(rèn)為他們今天的工作方式是未來(lái)的早期跡象,那么你將在短時(shí)間內(nèi)看到人工智能的海嘯,機(jī)器學(xué)習(xí)的海嘯,改變我們所做的一切。

請(qǐng)記住,我看到了計(jì)算機(jī)視覺(jué)的早期跡象,看到Alex、Ilya和Hinton的工作(AlexNet),看到Y(jié)ann LeCun,當(dāng)然還有斯坦福的吳恩達(dá)。

我們很幸運(yùn)地從貓的視覺(jué)推斷出了計(jì)算機(jī)科學(xué)和計(jì)算的深刻變革,這樣的推斷對(duì)我們來(lái)說(shuō)是幸運(yùn)的。

現(xiàn)在我們被它所激勵(lì),以至于改變了我們所有的做事方式。

但這花了多長(zhǎng)時(shí)間?從觀(guān)察到那個(gè)玩具般的AlexNet,按今天的標(biāo)準(zhǔn)它被認(rèn)為是一個(gè)玩具,到在物體識(shí)別方面達(dá)到超越人類(lèi)的能力,只用了幾年時(shí)間。

現(xiàn)在正在發(fā)生的是所有科學(xué)領(lǐng)域變革的浪潮,沒(méi)有一個(gè)科學(xué)領(lǐng)域被落下。

我想非常明確地說(shuō),從量子計(jì)算到量子化學(xué),所有科學(xué)領(lǐng)域都參與了我們正在討論的(AI協(xié)作)方法。

如果我們?cè)俳o自己兩三年時(shí)間,世界將會(huì)改變,將不會(huì)有一篇論文、一項(xiàng)科學(xué)或工程突破,其基礎(chǔ)不是生成式人工智能。我現(xiàn)在非常確定這一點(diǎn)。

對(duì)于很多關(guān)于這是否是曇花一現(xiàn)的問(wèn)題,你只需要回到第一原理,觀(guān)察實(shí)際發(fā)生的事情。

計(jì)算堆棧,也就是我們進(jìn)行計(jì)算的方式,已經(jīng)改變。編寫(xiě)軟件的方式已經(jīng)改變,這是非常核心的東西。

軟件是人類(lèi)編碼知識(shí)的方式,這是我們編碼算法的方式。我們現(xiàn)在以非常不同的方式編碼它,這將影響一切,其他任何東西都將不同于以往。

所以,我認(rèn)為,我是在和已經(jīng)理解這一點(diǎn)的人交談,我們都看到了同樣的事情。

你們所合作的所有初創(chuàng)公司,我所合作的科學(xué)家和工程師,沒(méi)有人會(huì)被落下。

我們將帶著所有人一起前進(jìn)。

黃仁勛每天都在用AI黃仁勛:

我自己每天都在使用AI,我不知道你們?cè)趺礃,但AI現(xiàn)在是我的導(dǎo)師。

我學(xué)習(xí)任何東西都會(huì)先去找AI。

為什么要用困難的方式去學(xué)習(xí)呢?直接去找AI,直接去找ChatGPT,或者有時(shí)我會(huì)用Perplexity,這取決于我問(wèn)題的表述方式,我就從那里開(kāi)始學(xué)習(xí)。然后,如果你愿意,你可以深入研究。

但天哪,這真是太棒了。幾乎所有我知道的東西,我都會(huì)再三確認(rèn)。即使對(duì)于一個(gè)事實(shí),我認(rèn)為的基本真理,而且我是專(zhuān)家,我仍然會(huì)去找AI,檢查、再檢查

這太棒了,現(xiàn)在我做幾乎所有的事情都涉及到AI。

One More Thing最新爆料,根據(jù)最近即將出版的張忠謀傳記,2013年左右臺(tái)積電曾詢(xún)問(wèn)黃仁勛是否有興趣接任CEO,但老黃拒絕了。

10多年前,英偉達(dá)還不是像今天這樣的龐然大物。但剛剛推出Kepler架構(gòu)GPU系列,新的Tegra系列移動(dòng)芯片,以及Shield游戲機(jī),并繼續(xù)進(jìn)軍數(shù)據(jù)中心。

當(dāng)時(shí)黃仁勛對(duì)英偉達(dá)未來(lái)充滿(mǎn)信心,宣布在公司現(xiàn)有總部以西建造一個(gè)更大的總部。

臺(tái)積電不得不選擇Plan B,從內(nèi)部提拔兩名工程師高管并培養(yǎng)成商人,建立雙領(lǐng)導(dǎo)制,分別擔(dān)任董事長(zhǎng)和CEO。作為對(duì)比,黃仁勛一直在英偉達(dá)同時(shí)擔(dān)任董事長(zhǎng)兼CEO。

現(xiàn)在,黃仁勛對(duì)數(shù)據(jù)中心和人工智能的戰(zhàn)略愿景幫助英偉達(dá)成為全球市值最高的公司。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦

熱門(mén)欄目HotCates

Copyright © 2010-2025 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港