用戶名: 密碼: 驗(yàn)證碼:

英偉達(dá)電話會(huì):預(yù)計(jì)下一代芯片B100供不應(yīng)求,全球數(shù)據(jù)中心安裝量未來5年翻一番

摘要:英偉達(dá)指出,雖然當(dāng)前GPU的供應(yīng)正在改善,但需求仍然強(qiáng)勁,預(yù)計(jì)下一代產(chǎn)品的市場需求將超過供給,尤其是預(yù)計(jì)今年晚些時(shí)候發(fā)貨的新一代芯片B100。

  ICC訊 黃仁勛認(rèn)為,整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。

  他在當(dāng)?shù)貢r(shí)間周三召開的英偉達(dá)財(cái)報(bào)電話會(huì)上表示,AI工廠作為一種新型的數(shù)據(jù)中心,將數(shù)據(jù)轉(zhuǎn)化為極具價(jià)值的“代幣”,比如人們在使用ChatGPT、Midjourney等服務(wù)中體驗(yàn)到的東西。

  黃仁勛表示,計(jì)算機(jī)行業(yè)正同時(shí)處于加速計(jì)算與生成式AI轉(zhuǎn)型的開端,這將推動(dòng)全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量在未來5年內(nèi)翻一番,創(chuàng)造每年數(shù)千億美元的市場機(jī)會(huì)。

  考慮到廣闊的市場前景,黃仁勛稱,2024年及以后,數(shù)據(jù)中心業(yè)務(wù)持續(xù)增長的條件都非常優(yōu)秀,預(yù)計(jì)AI Enterprise未來會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。

  至于英偉達(dá)是否進(jìn)軍ASIC(專用芯片設(shè)計(jì))市場,黃仁勛并沒有做直接回答。

  英偉達(dá)CFO Colette Kress則在財(cái)報(bào)電話會(huì)議時(shí)表示,雖然當(dāng)前GPU的供應(yīng)正在改善,但需求仍然強(qiáng)勁,預(yù)計(jì)下一代產(chǎn)品的市場需求將超過供給,尤其是預(yù)計(jì)今年晚些時(shí)候發(fā)貨的新一代芯片B100。他表示,“構(gòu)建和部署AI解決方案已經(jīng)觸及幾乎每一個(gè)行業(yè)”,預(yù)計(jì)數(shù)據(jù)中心基礎(chǔ)設(shè)施規(guī)模將在五年內(nèi)翻番。

  當(dāng)?shù)貢r(shí)間周三公布的財(cái)報(bào)顯示,英偉達(dá)四季度營收同比猛增265%至221億美元,高于分析師預(yù)期的204.1億美元,單季度收入甚至高于2021年全年。最大營收來源數(shù)據(jù)中心部門,四季度營收達(dá)到184億美元,同比暴增409%。

  英偉達(dá)營收和利潤已連續(xù)三個(gè)季度創(chuàng)歷史紀(jì)錄,2024全財(cái)年?duì)I收增長126%。

  以下是英偉達(dá)第四季度財(cái)報(bào)電話會(huì)分析師問答全文內(nèi)容:

  高盛Toshiya Hari:

  我的問題是關(guān)于數(shù)據(jù)中心業(yè)務(wù)的,Jensen(黃仁勛)。

  很明顯,你知道你在這個(gè)行業(yè)做得非常好。我很好奇你對2024-2025日歷年的數(shù)據(jù)中心業(yè)務(wù)的預(yù)期,過去三個(gè)月內(nèi)有何變化?。

  希望您能談?wù)剶?shù)據(jù)中心領(lǐng)域中的一些新興方向,比如軟件、主權(quán)AI等。我認(rèn)為您已經(jīng)非常明確地表達(dá)了中長期的問題。

  最近有一篇關(guān)于英偉達(dá)可能進(jìn)軍ASIC(專用芯片設(shè)計(jì))市場的文章,這有任何可信度嗎?如果是這樣,英偉達(dá)在未來幾年內(nèi)在這個(gè)市場上競爭和發(fā)展?

  黃仁勛:

  對于第一個(gè)問題。

  我們一次性指引一個(gè)季度,但從根本上講,2024-2025年及以后的持續(xù)增長環(huán)境非常好。理由是,我們正處于兩個(gè)全行業(yè)轉(zhuǎn)型的開端,這兩個(gè)轉(zhuǎn)型都是全行業(yè)的。

  第一個(gè)是從通用計(jì)算到加速計(jì)算的轉(zhuǎn)變,如您所知,通用計(jì)算開始失去動(dòng)力。你可以從云服務(wù)提供商(CSP)的擴(kuò)張和許多數(shù)據(jù)中心中看出,包括我們自己的通用計(jì)算中心,它可以將折舊從四年延長到六年。但當(dāng)它不能像以前那樣從根本上顯著提高其數(shù)據(jù)處理量時(shí),就沒有理由使用更多CPU進(jìn)行更新,因此必須加速一切。

  這是英偉達(dá)一直在開創(chuàng)的。加速計(jì)算可以顯著提高LNG 效率,可以將數(shù)據(jù)處理成本下降20倍,這是一個(gè)巨大的數(shù)字。當(dāng)然,還有速度。

  這種速度令人難以置信,以至于我們今天實(shí)現(xiàn)了第二次全行業(yè)的轉(zhuǎn)型,稱為生成式AI。

  是的,我們可以,我相信我們會(huì)在通話中談?wù)摵芏?,但請記住,生成式AI是一種新的應(yīng)用。它正在賦能一種新的軟件生成方式,新類型的軟件正在被創(chuàng)建。這是一種新的計(jì)算方式。您可以在傳統(tǒng)的通用計(jì)算設(shè)備上進(jìn)行生成式AI的任務(wù)。這一過程必須得到加速。

  第三,它正在賦能一個(gè)全新的行業(yè),這是值得退一步審視的事情,與你最后一個(gè)關(guān)于主權(quán)AI的問題有關(guān)。

  在某種意義上,整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。傳統(tǒng)上的數(shù)據(jù)中心僅僅被用來計(jì)算數(shù)據(jù)、存儲(chǔ)數(shù)據(jù)、為公司員工提供服務(wù),現(xiàn)在,我們有了一種新型的數(shù)據(jù)中心,它專注于AI生成。我曾把它描述為AI工廠,本質(zhì)上利用原材料,也就是數(shù)據(jù),用英偉達(dá)生產(chǎn)的這些AI超級計(jì)算機(jī)來改造數(shù)據(jù),將其轉(zhuǎn)化為極具價(jià)值的“代幣”。

  這些“代幣”就是人們在震撼的ChatGPT、Midjourney或者現(xiàn)在搜索等服務(wù)中體驗(yàn)到的東西,所有這些推薦系統(tǒng)現(xiàn)在都由此增強(qiáng)。

  與此相關(guān)的所有超個(gè)性化服務(wù),這些不可思議的初創(chuàng)公司,生成蛋白質(zhì)、化學(xué)物質(zhì)的數(shù)字生物學(xué)等等,所有這些“代幣”都是在一種非常專業(yè)化的數(shù)據(jù)中心內(nèi)生成的。我們稱這種數(shù)據(jù)中心為AI超級計(jì)算機(jī)和AI生成工廠。

  但是我們看到的是多樣性,我們在這一方面取得了許多進(jìn)步。第一,我們做的推理量已經(jīng)飆升,幾乎每一次你和ChatGPT互動(dòng),我們都在做推理,每次你使用Midjourney時(shí),我們也在做推理。每次你看到這些令人驚嘆的生成視頻,或者Runway、Firefly編輯的視頻,英偉達(dá)都在做推理,我們的推理業(yè)務(wù)擴(kuò)張巨大,大約在40%左右。

  訓(xùn)練量正在繼續(xù)增加,因?yàn)檫@些模型變得越來越大,推理量也在增長,但我們也正在多樣化進(jìn)入新的行業(yè)。大型CSP仍在繼續(xù)擴(kuò)張。你可以從他們的資本支出和討論中看出來。企業(yè)軟件平臺正在部署AI服務(wù),Adobe就是一個(gè)很好的例子,還有SAP和其他公司。

  還有,消費(fèi)者互聯(lián)網(wǎng)服務(wù)現(xiàn)在正在通過生成式AI來增強(qiáng)他們所有的服務(wù),以創(chuàng)建更多超個(gè)性化的內(nèi)容。

  我們在談?wù)摴I(yè)化的生成式AI。總的來說,以汽車、金融服務(wù)和醫(yī)療保健為的首垂直行業(yè),現(xiàn)在已經(jīng)達(dá)到了數(shù)十億美元的規(guī)模。

  當(dāng)然,還有主權(quán)AI。

  提出主權(quán)AI的原因是每個(gè)地區(qū)的語言、知識、歷史和文化不同,他們擁有自己的數(shù)據(jù)。

  他們想要利用自己的數(shù)據(jù),數(shù)據(jù)訓(xùn)練AI模型,開發(fā)數(shù)字化智能服務(wù),創(chuàng)造屬于自己的AI體系。世界各地的數(shù)據(jù)都不一樣。

  因?yàn)檫@些數(shù)據(jù)對本國最有價(jià)值,因此各國會(huì)保護(hù)本國的數(shù)據(jù),自己處理數(shù)據(jù),自己開發(fā)、提供AI服務(wù),而不是依賴外部AI系統(tǒng)。

  所以我們看到,日本、加拿大、法國、我和許多其他地區(qū)正在建設(shè)主權(quán)AI基礎(chǔ)設(shè)施。因此,我的期望是,美國西部的經(jīng)驗(yàn),肯定會(huì)在世界各地復(fù)制。未來這些AI代工廠將遍布每個(gè)行業(yè)、每個(gè)公司、每個(gè)地區(qū)。

  所以我認(rèn)為,生成式AI已經(jīng)在去年真正成為一個(gè)全新的應(yīng)用空間,一種全新的計(jì)算方式。一個(gè)全新的產(chǎn)業(yè)正在形成,這推動(dòng)了我們的增長。

  摩根士丹利分析師Joe Moore:

  40%的收入來自推理業(yè)務(wù),這比我預(yù)期的要大。這個(gè)比例一年前大概是什么水平,大模型相關(guān)的推理業(yè)務(wù)增長了多少?英偉達(dá)是如何測量這一比例的?是否可靠?因?yàn)槲壹僭O(shè)在某些情況下,同一塊GPU既可以用來訓(xùn)練也能夠用來推理。

  黃仁勛:

  我倒過來說,這個(gè)比例可能被低估了。讓我告訴你為什么。一年前,當(dāng)人們使用互聯(lián)網(wǎng)、瀏覽新聞、觀看視頻、聽音樂、查看推薦產(chǎn)品時(shí),面對的是數(shù)萬億的數(shù)據(jù),而假設(shè)你的手機(jī)只有三英寸,要將所有這些信息整合到如此小的空間中,需要強(qiáng)大的推薦系統(tǒng)。

  這些推薦系統(tǒng)過去全部基于CPU,但在最近轉(zhuǎn)向了深度學(xué)習(xí)和生成式AI,這些推薦系統(tǒng)直接受益于GPU的加速。

  它需要GPU來加速嵌入、近鄰搜索、重新排名,以及生成個(gè)性化推薦信息,所以現(xiàn)在的推薦系統(tǒng)運(yùn)行的每一步都需要GPU。如你所知,推薦系統(tǒng)是這個(gè)星球上最大的軟件引擎。世界上幾乎所有主要公司都需要運(yùn)行這些大型推薦系統(tǒng)。

  每當(dāng)你使用ChatGPT就是在推斷,每當(dāng)你聽到中途和他們?yōu)橄M(fèi)者產(chǎn)生的東西的數(shù)量。當(dāng)你看到Getty時(shí),我們用Getty和來自Adobe的Firefly所做的工作,這些都是生成模型。列表還在繼續(xù)。這些我一年前提到的都不存在,都是100%新的。

  每當(dāng)你使用ChatGPT時(shí)就是在做推理,Midjourney也是一樣。我們與Getty、Adobe、Firefly等的合作,以及這些應(yīng)用生成式模型,這些還在不斷增加。我剛才提到的所有這些,一年前都不存在,100%都是新的。

  Bernstein Research分析師Stacy Rasgon:

  你們預(yù)計(jì)下一代產(chǎn)品會(huì)面臨供不應(yīng)求,我想深入了解這方面的情況,導(dǎo)致下一代產(chǎn)品供應(yīng)緊張的原因是什么?既然GPU供應(yīng)正在放松,為什么下一代產(chǎn)品還會(huì)出現(xiàn)供不應(yīng)求的局面。

  你預(yù)計(jì)這種限制會(huì)持續(xù)多久?是否意味著整個(gè)2025年日歷年,下一代產(chǎn)品都會(huì)出現(xiàn)供應(yīng)短缺。

  黃仁勛:

  總的來說,我們的供應(yīng)正在改善。我們的供應(yīng)鏈做得非常出色,從晶圓,封裝,存儲(chǔ),所有的電源調(diào)節(jié)器,到收發(fā)器、網(wǎng)絡(luò)、電纜等我們所用到的組件,供應(yīng)都在改善。。如您所知,人們認(rèn)為英偉達(dá)GPU只是一塊芯片,但英偉達(dá)Hopper GPU由35000個(gè)零件組成,重70磅。這些東西是我們制造的非常復(fù)雜的東西,人們稱之為AI超級計(jì)算機(jī)是有充分理由的。如果你看看數(shù)據(jù)中心的后面,系統(tǒng),布線令人難以置信。它是世界上最密集、最復(fù)雜的網(wǎng)絡(luò)布線系統(tǒng)。

  我們的InfiniBand業(yè)務(wù)同比增長了5倍。供應(yīng)鏈為我們提供了很大支持。所以總體來說,供應(yīng)正在改善。我們預(yù)計(jì)需求仍會(huì)大于供給,我們會(huì)全力以赴。制程周期正在縮短,我們會(huì)繼續(xù)努力。

  然而,正如你所知,每當(dāng)我們開發(fā)新產(chǎn)品時(shí),它就會(huì)從零上升到非常大的數(shù)字,這不可能在一夜之間完成。一切都在加速,但它不會(huì)。因此,當(dāng)我們開發(fā)出新一代產(chǎn)品后,無法在短期內(nèi)完全滿足需求,現(xiàn)在我們正在增加H200的供應(yīng)。

  我們也在擴(kuò)大構(gòu)建Spectrum-X平臺。這是我們進(jìn)入以太網(wǎng)世界的全新產(chǎn)品,目前已取得非常好的進(jìn)展。InfiniBand是AI專用系統(tǒng)的標(biāo)準(zhǔn),我們在以太網(wǎng)的基礎(chǔ)新功能之上進(jìn)行了增強(qiáng),如自適應(yīng)路由、擁塞控制、噪聲隔離或流量隔離,以便我們可以針對AI優(yōu)化以太網(wǎng)。因此,InfiniBand將是我們AI專用基礎(chǔ)設(shè)施。Spectrum-X將是我們AI優(yōu)化的網(wǎng)絡(luò),而且正在加速。

  所以,需求大于供應(yīng),這就是新產(chǎn)品通常會(huì)面臨的問題。我們盡可能快地工作,以滿足需求。但總的來說,我們的供應(yīng)正在非常順利地增加。

  TDCowen分析師Matt Ramsey:

  下午好,Jason,我的問題由兩部分組成,涉及到Stacy剛剛提到的供不應(yīng)求的問題。首先是,貴公司如何考慮產(chǎn)品分配以滿足客戶的需求,以及是否監(jiān)控產(chǎn)品庫存情況避免庫存積累。

  然后我想,Jason,我真的很想聽聽你和英偉達(dá)在客戶之間分配產(chǎn)品的想法,許多客戶競相搶奪芯片,從行業(yè)到小型初創(chuàng)公司,從醫(yī)療保健領(lǐng)域到政府。這是一項(xiàng)非常獨(dú)特的技術(shù)活,你正在推動(dòng)它,我非常想聽聽你如何思考如何公平分配,才能在保障公司利益的同時(shí)兼顧整個(gè)行業(yè)利益。

  黃仁勛:

  首先回答你關(guān)于我們?nèi)绾闻c客戶合作搭建GPU實(shí)例以及我們的分配流程的問題。

  我們合作的客戶一直是多年來的長期合作伙伴,我們一直在協(xié)助他們在云端部署以及內(nèi)部設(shè)置。許多服務(wù)提供商同時(shí)運(yùn)營多個(gè)產(chǎn)品,以滿足終端用戶各種需求以及內(nèi)部需求。

  當(dāng)然,他們會(huì)提前規(guī)劃新集群所需配置,我們不僅討論當(dāng)前的Hopper架構(gòu),也幫助他們了解下一波產(chǎn)品,聽取他們的興趣和需求。所以他們的采購和構(gòu)建內(nèi)容是一個(gè)持續(xù)變化的過程。但是我們建立的關(guān)系和他們對構(gòu)建復(fù)雜性的理解確實(shí)幫助了我們進(jìn)行分配,并且兩者都有助于我們與他們的溝通。

  首先,我們的CSP對產(chǎn)品路線圖和迭代有非常清晰的了解。我們與他們的透明溝通讓其對產(chǎn)品放置時(shí)間和地點(diǎn)很有信心。他們了解產(chǎn)品的時(shí)間線和大致供應(yīng)量。在分配上,我們盡量公平分配,避免不必要分配。如你之前說的,如果數(shù)據(jù)中心沒準(zhǔn)備好,分配沒有任何意義。沒有什么比閑置資源公平分配和避免不必要的分配更困難的了。

  關(guān)于你問到的終端市場,我們有一個(gè)優(yōu)秀的生態(tài)系統(tǒng),包括OEM、ODM、CSP和非常重要的終端市場。

  英偉達(dá)真正的獨(dú)特之處是我們?yōu)楹献骰锇楹涂蛻舸顦?。我們將云服?wù)供應(yīng)商和代工與醫(yī)療、金融、AI開發(fā)者、大語言模型開發(fā)者、自動(dòng)駕駛公司、機(jī)器人公司等客戶連接。正在出現(xiàn)的各種機(jī)器人創(chuàng)業(yè)公司,從倉儲(chǔ)機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、各種非常有趣的機(jī)器人公司、農(nóng)業(yè)機(jī)器人公司

  到外科到人形機(jī)器人。所有這些創(chuàng)業(yè)公司和大公司都是構(gòu)建在我們平臺之上。我們直接支持他們。通常,我們可以通過分配給云服務(wù)供應(yīng)商并同時(shí)將客戶引入云服務(wù)供應(yīng)商來實(shí)現(xiàn)雙贏。

  獨(dú)特的地方在于我們帶來了我們的客戶,我們帶來了我們的合作伙伴、CSP和Oem,我們?yōu)樗麄儙砹丝蛻簟I锕?、醫(yī)療保健公司、金融服務(wù)公司、AI開發(fā)商、大型語言模型開發(fā)商、自動(dòng)駕駛汽車公司、機(jī)器人公司。只有一大批機(jī)器人公司正在崛起。他們的倉庫機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、農(nóng)業(yè)機(jī)器人……各種非常有趣的機(jī)器人公司,所有這些初創(chuàng)公司都在幫助醫(yī)療保健、金融服務(wù)和汽車等領(lǐng)域的大公司在英偉達(dá)平臺上工作。我們直接支持他們。通常,我們可以通過分配給CSP并同時(shí)將客戶引入CSP來實(shí)現(xiàn)雙贏。

  所以這個(gè)生態(tài)系統(tǒng),你說得對,它是充滿活力的,但在它的核心,我們希望公平分配,避免資源浪費(fèi),尋找連接合作伙伴和終端用戶的機(jī)會(huì),我們一直在尋找這些機(jī)會(huì)。

  瑞銀分析師Timothy R.Curry:

  非常感謝。我想問一下你們?nèi)绾螌⒎e壓訂單轉(zhuǎn)化為收入。顯然,您的產(chǎn)品交貨時(shí)間已經(jīng)大大縮短了,但Colette沒有談?wù)搸齑尜徺I承諾,但如果我把加上你們獲得的庫存采購承諾和預(yù)付支持供應(yīng),你知道的,你的供應(yīng)總和,實(shí)際上有點(diǎn)下降。我們應(yīng)該如何解讀這種下降?是因?yàn)榻回洉r(shí)間縮短,英偉達(dá)不需要對供應(yīng)商作出那么大的財(cái)務(wù)承諾了嗎?還是英偉達(dá)正在接近填補(bǔ)訂單和積壓訂單的平衡狀態(tài)?

  Colette Kress:

  是的,讓我強(qiáng)調(diào)一下我們對供應(yīng)的三個(gè)不同方面的看法。你說得對,我們手頭的庫存,考慮到我們正在進(jìn)行的分配,我們正在努力,因?yàn)樨浧啡霂旌罅⒓窗l(fā)給客戶。我認(rèn)為客戶會(huì)贊賞我們滿足他們需要的交貨時(shí)間表的能力。

  其次,我們的購買承諾有很多不同組成部分,不僅包括我們生產(chǎn)所需的組件,也包括我們滿足產(chǎn)能所需的組件,需求時(shí)間長度不一,其中一些可能會(huì)持續(xù)兩個(gè)季度,但其中一些可能會(huì)持續(xù)多年。

  預(yù)付款也是一樣,它們都是為了確保我們在幾家供應(yīng)商那里獲得未來所需的備用產(chǎn)能。

  所以不應(yīng)該過分解讀這些大致相同的數(shù)字,因?yàn)槲覀冋谔岣吖?yīng)量。所有這些都有不同的時(shí)間跨度,因?yàn)槲覀冇袝r(shí)不得不提前很長時(shí)間購買東西或?yàn)槲覀兘a(chǎn)能。

  Melius Research分析師Ben Reitzes:

  好的,謝謝。恭喜取得了如此亮眼的成績。Colette,我想談?wù)勀銓τ诿实目捶?,它們回到?5%左右的水平,這是因?yàn)樾庐a(chǎn)品中HBM內(nèi)存含量嗎?您認(rèn)為還有其他原因嗎?非常感謝。

  Colette Kress:

  是的,感謝您的問題。正如我們在開場白中強(qiáng)調(diào)的,我們第四季度的業(yè)績和第一季度的展望都比較特殊。這兩個(gè)季度的毛利率也都是獨(dú)特的,因?yàn)樗鼈兌际芤嬗诠?yīng)鏈中的組件成本,這種益處覆蓋了我們的計(jì)算和網(wǎng)絡(luò)產(chǎn)品,以及制造過程的多個(gè)階段。

  展望未來,我們預(yù)測本財(cái)年的毛利率將回歸到75%左右的水平,回到我們在第四季度和第一季度峰值之前的水平。所以真正驅(qū)動(dòng)未來全年的毛利率的是我們產(chǎn)品組合,這將是最重要的驅(qū)動(dòng)因素。這些就是驅(qū)動(dòng)毛利率的主要因素。

  Cantra Fitzgerald分析師CJ Muse:

  下午好,Jason,GPU算力在過去十年提升了100萬倍,面對這種飛速提升,英偉達(dá)客戶如何看待他們今天所做的英偉達(dá)投資的長期可用性。今天用于訓(xùn)練的系統(tǒng)未來是否還可以用于推理。你認(rèn)為這會(huì)如何發(fā)展?

  黃仁勛:

  謝謝你的問題。是的,真正酷的地方在于,我們能夠極大地提升性能,那是因?yàn)槲覀兊钠脚_有兩大特點(diǎn):一是加速的能力,二是可編程性。

  英偉達(dá)是唯一一個(gè)從最初就始終如一的架構(gòu),從最開始的卷積神經(jīng)網(wǎng)絡(luò),Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton首次提出的AlexNet,到RNN、LSTM、RLS,再到Transformers,比如Vision Transformers、Multi-modality Transformers 等,每一個(gè)AI的變種模型,我們都能支持它們,優(yōu)化我們的堆棧,并將其部署到我們安裝的用戶設(shè)備基礎(chǔ)上。

  這真的是最了不起的地方。一方面,我們可以發(fā)明新的架構(gòu)和技術(shù),像我們的Tensor Core(張量核心),張量核心轉(zhuǎn)換引擎,改進(jìn)數(shù)據(jù)格式和處理結(jié)構(gòu),就像在Tensor Core中所做的工作那樣。

  同時(shí),我們也支持原有的安裝基礎(chǔ)。因此,我們的所有新軟件算法創(chuàng)新,以及行業(yè)的所有新模型創(chuàng)新,都可以在一個(gè)基礎(chǔ)上運(yùn)行。另一方面,當(dāng)我們看到革命性的東西,例如轉(zhuǎn)換器,我們可以創(chuàng)建全新的東西,像Hopper轉(zhuǎn)換引擎,并在未來進(jìn)行應(yīng)用。

  因此,我們同時(shí)擁有將軟件引入安裝基礎(chǔ)并不斷改進(jìn)的能力,因此隨著時(shí)間的推移,我們的客戶安裝基礎(chǔ)隨著我們的新軟件而豐富。另一方面,新技術(shù)創(chuàng)造了革命性的能力。

  如果未來一代在LLM上出現(xiàn)突破,不要感到驚訝。這些突破,其中一些是軟件方面的,因?yàn)樗鼈冞\(yùn)行在CUDA平臺上,提供給安裝基礎(chǔ)。所以我們帶著所有人一起前進(jìn)。一方面,我們?nèi)〉镁薮笸黄?另一方面,我們支持原有基礎(chǔ)。

  Piper Sandler分析師Harsh Kumar:

  我想談?wù)動(dòng)ミ_(dá)的軟件業(yè)務(wù),很高興聽到它的營收超過10億美元。但我希望,Jensen或Collatif,幫助我們稍微拆解一下,以便我們更好地了解該業(yè)務(wù)的增長源。

  黃仁勛:

  讓我退后一步解釋,英偉達(dá)在軟件中非常成功的根本原因。

  首先,你知道,加速計(jì)算真正在云端蓬勃發(fā)展。CSP有非常大的工程團(tuán)隊(duì), 我們與他們合作的方式允許他們運(yùn)營和管理自己的業(yè)務(wù)。。如果有任何問題,我們會(huì)派出大型團(tuán)隊(duì)為他們服務(wù)。他們的工程團(tuán)隊(duì)直接與我們的工程團(tuán)隊(duì)對接,改進(jìn)、修復(fù)、維護(hù)、修復(fù)復(fù)雜的加速計(jì)算軟件棧。

  加速計(jì)算和通用計(jì)算截然不同,并不是從C++這樣的程序開始,編譯后在所有CPU上運(yùn)行。從數(shù)據(jù)處理、結(jié)構(gòu)化數(shù)據(jù)與所有圖像、文本、PDF這樣的非結(jié)構(gòu)化數(shù)據(jù),到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音、大語言模型,再到所有推薦系統(tǒng),每個(gè)領(lǐng)域都需要不同的軟件棧。這就是為什么英偉達(dá)有數(shù)百個(gè)軟件庫的原因。沒有軟件就無法開拓新市場,無法啟用新的應(yīng)用。軟件對加速計(jì)算來說是基礎(chǔ)。

  如您所知,加速計(jì)算與通用計(jì)算非常不同。你不是從C++這樣的程序開始的。你編譯它,一切都在你的所有CPU上運(yùn)行。每個(gè)領(lǐng)域所需的軟件堆棧從數(shù)據(jù)處理、SQL數(shù)據(jù)庫、結(jié)構(gòu)數(shù)據(jù)與所有圖像、文本和PDF(非結(jié)構(gòu)化)到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音、兩個(gè)大型語言模型、所有推薦系統(tǒng),所有這些都需要不同的軟件堆棧。

  這就是英偉達(dá)擁有數(shù)百個(gè)庫的原因。如果你沒有軟件,你就無法打開新市場。如果您沒有軟件,則無法打開和啟用新應(yīng)用程序。軟件對于加速計(jì)算至關(guān)重要。

  這是加速計(jì)算和通用計(jì)算之間的根本區(qū)別,大多數(shù)人花了很長時(shí)間才理解,現(xiàn)在人們明白,軟件在我們與CSP合作的方式中非常關(guān)鍵。這非常簡單,我們的大型團(tuán)隊(duì)正在與他們的大型團(tuán)隊(duì)合作。然而,現(xiàn)在生成式AI使每個(gè)企業(yè)和企業(yè)軟件公司都能擁抱加速計(jì)算,擁抱加速計(jì)算現(xiàn)在是必需的,僅僅依靠通用計(jì)算提高處理量已不再可行。所有這些企業(yè)軟件公司和企業(yè)公司都沒有大型工程團(tuán)隊(duì)來維護(hù)和優(yōu)化他們的軟件堆棧,以在全球所有云和私有云以及本地運(yùn)行。

  因此,我們將對他們所有的軟件堆棧進(jìn)行管理、優(yōu)化、修補(bǔ)、調(diào)整,優(yōu)化安裝基礎(chǔ)。我們將它們?nèi)萜骰轿覀兊亩褩V校覀兎Q之為英偉達(dá)AIEnterprise。我們將其推向市場的方式是將英偉達(dá)AIEnterprise視為運(yùn)行時(shí),就像操作系統(tǒng)一樣。這是一個(gè)人工智能操作系統(tǒng)。我們每年對每個(gè)GPU收取4500美元。我的猜測是,世界上的每一家企業(yè),每一家在所有云和私有云中部署軟件的軟件企業(yè)公司。首先,我們將在英偉達(dá)AI企業(yè)上運(yùn)行,尤其是,你知道,顯然是為了我們的GPU。因此,隨著時(shí)間的推移,這可能會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。我們有一個(gè)很好的開始。Collette提到它已經(jīng)以10億美元的速度增長,我們才剛剛開始。

  黃仁勛閉會(huì)總結(jié):

  計(jì)算機(jī)行業(yè)正在同時(shí)向兩個(gè)方向轉(zhuǎn)變 (加速計(jì)算與生成式 AI)。

  價(jià)值數(shù)萬億美元的數(shù)據(jù)中心安裝基礎(chǔ)正在從通用計(jì)算轉(zhuǎn)向加速計(jì)算。每個(gè)數(shù)據(jù)中心都將得到加速,使世界能夠在提高處理量來滿足計(jì)算需求的同時(shí),管理成本和能源。英偉達(dá)實(shí)現(xiàn)了令人難以置信的加速,它實(shí)現(xiàn)了一種全新的計(jì)算范式,即生成式 AI,其中軟件可以學(xué)習(xí)、理解和生成從人類語言到生物結(jié)構(gòu)和 3D 世界的任何信息。

  我們現(xiàn)在正處于一個(gè)新興行業(yè)的開端,專用AI數(shù)據(jù)中心處理大量原始數(shù)據(jù)以將其提煉成數(shù)字智能,就像上一場工業(yè)革命的交流發(fā)電廠。英偉達(dá)AI超級計(jì)算機(jī)實(shí)際上是這場工業(yè)革命的AI生成工廠。

  每個(gè)公司和每個(gè)行業(yè)從根本上來說都是建立在其專有的商業(yè)智能之上,在未來,他們專有的生成式AI啟動(dòng)了一個(gè)全新的投資周期,以構(gòu)建下一個(gè)萬億美元的AI生成工廠基礎(chǔ)設(shè)施。

  我們相信,這兩大趨勢將推動(dòng)未來 5 年內(nèi)使全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量翻一番,每年創(chuàng)造數(shù)千億美元的市場機(jī)會(huì)。這種新的人工智能基礎(chǔ)設(shè)施將開辟一個(gè)今天不可能實(shí)現(xiàn)的全新應(yīng)用世界。

  我們與超大規(guī)模云提供商和消費(fèi)者互聯(lián)網(wǎng)公司一起開啟了人工智能之旅。現(xiàn)在,從汽車、醫(yī)療保健、金融服務(wù)到工業(yè)電信、媒體和娛樂,每個(gè)行業(yè)都參與其中。英偉達(dá)的全棧計(jì)算平臺具有特定行業(yè)的應(yīng)用框架以及龐大的開發(fā)者和合作伙伴生態(tài)系統(tǒng),為我們提供了速度、規(guī)模和影響力,幫助每個(gè)公司、每個(gè)行業(yè)的公司成為人工智能公司。

  在下個(gè)月于圣何塞舉行的GTC上,我們有很多東西要與您分享,所以請務(wù)必加入我們。我們期待向您介紹下季度的最新進(jìn)展。

1、凡本網(wǎng)注明“來源:訊石光通訊網(wǎng)”及標(biāo)有原創(chuàng)的所有作品,版權(quán)均屬于訊石光通訊網(wǎng)。未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載我方內(nèi)容的單位,也必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和本站來源。
2、免責(zé)聲明,凡本網(wǎng)注明“來源:XXX(非訊石光通訊網(wǎng))”的作品,均為轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)。因可能存在第三方轉(zhuǎn)載無法確定原網(wǎng)地址,若作品內(nèi)容、版權(quán)爭議和其它問題,請聯(lián)系本網(wǎng),將第一時(shí)間刪除。
聯(lián)系方式:訊石光通訊網(wǎng)新聞中心 電話:0755-82960080-168   Right