NVIDIA 攜手微軟打造大規(guī)模云端 AI 計算機

  ICC訊 美國加利福尼亞州圣克拉拉 – 2022 年 11 月 16 日 – NVIDIA 于今日宣布與微軟展開一項為期多年的合作，雙方將共同打造全球最強大的 AI 超級計算機。微軟 Azure 的先進超級計算基礎(chǔ)設(shè)施，結(jié)合NVIDIA GPU、網(wǎng)絡(luò)和全棧式 AI 軟件為此超級計算機賦能，以幫助企業(yè)訓(xùn)練、部署和擴展包括大型、先進模型在內(nèi)的AI。

  Azure 的云端 AI 超級計算機包括強大、可擴展 ND 與 NC 系列虛擬機，其專為 AI 分布式訓(xùn)練和推理而優(yōu)化，是首個采用 NVIDIA 先進 AI 堆棧的公有云，并添加了數(shù)以萬計的 NVIDIA A100 和 H100GPU、NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA AI Enterprise 軟件套件在平臺上。

  在此次合作中，NVIDIA 將使用 Azure 的可擴展虛擬機實例來研究并進一步加快生成式 AI 的發(fā)展。生成式 AI 是正在迅速興起的 AI 領(lǐng)域，其中像 Megatron Turing NLG 530B這樣的基礎(chǔ)模型是無監(jiān)督、自學(xué)習(xí)算法的基準(zhǔn)，這些算法被用來創(chuàng)造新的文本、代碼、數(shù)字圖像、視頻或音頻。

  兩家公司還將合作優(yōu)化微軟的 DeepSpeed 深度學(xué)習(xí)優(yōu)化軟件。NVIDIA 的全棧式 AI 工作流和軟件開發(fā)工具包皆專為 Azure 進行了優(yōu)化，并將提供給 Azure 企業(yè)客戶。

  NVIDIA 企業(yè)計算副總裁 Manuvir Das 表示： “AI 技術(shù)正在加速發(fā)展，行業(yè)的采用速度也在同時加快?；A(chǔ)模型上的突破引發(fā)了研究浪潮、培育了新的初創(chuàng)企業(yè)并啟動了新的企業(yè)應(yīng)用程序。我們將與微軟一同為研究者和企業(yè)提供最先進的 AI 基礎(chǔ)設(shè)施和軟件，使他們能夠充分利用 AI 的變革性力量。”

  微軟云與 AI 事業(yè)部執(zhí)行副總裁 Scott Guthrie 表示：“AI 正在掀起整個企業(yè)和工業(yè)計算的下一輪自動化浪潮，幫助企業(yè)機構(gòu)在變幻莫測的經(jīng)濟環(huán)境中得以事半功倍。我們與 NVIDIA 合作，打造全球可擴展性最強的超級計算機平臺，為微軟 Azure 上的每家企業(yè)提供最先進的 AI 功能?！?

  通過 Azure 上的 NVIDIA 計算 與 Quantum-2 InfiniBand 實現(xiàn)可擴展峰值性能

  微軟Azure的AI優(yōu)化虛擬機實例采用了 NVIDIA 最先進的數(shù)據(jù)中心 GPU，并且是首個搭載 NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)的公有云實例?？蛻艨梢栽趩蝹€集群中部署數(shù)千 GPU 來訓(xùn)練最具規(guī)模的大型語言模型，大規(guī)模地構(gòu)建最復(fù)雜的推薦系統(tǒng)以及實現(xiàn)生成式 AI。

  目前的 Azure 實例采用了 NVIDIA Quantum 200Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA A100 GPU。未來的實例將集成 NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA H100 GPU。結(jié)合 Azure 先進的計算云基礎(chǔ)設(shè)施、網(wǎng)絡(luò)和存儲，這些通過 AI 優(yōu)化的產(chǎn)品將為任何規(guī)模的 AI 訓(xùn)練和深度學(xué)習(xí)推理工作負(fù)載提供可擴展的峰值性能。

  加速 AI 的開發(fā)和部署

  另外，該平臺將支持廣泛的 AI 應(yīng)用和服務(wù)，包括微軟 DeepSpeed 和 NVIDIA AI Enterprise 軟件套件。

  微軟 DeepSpeed 將使用 NVIDIA H100 Transformer 引擎來加速基于 Transformer的模型，這些模型可用于大型語言模型、生成式 AI 和編寫計算機代碼等應(yīng)用。該技術(shù)將 8 位浮點精度能力應(yīng)用于DeepSpeed，大大加快了 Transformer 的 AI 計算速度，使其吞吐量達到 16 位運算的兩倍。

  被全球企業(yè)廣泛采用的 NVIDIA AI 平臺軟件 NVIDIA AI Enterprise 已通過認(rèn)證并支持搭載 NVIDIA A100 GPU 的微軟Azure 實例。未來的軟件版本將增加對搭載 NVIDIA H100 GPU 的 Azure 實例的支持。

  NVIDIA AI Enterprise 包括用于語音 AI 的 NVIDIA Riva 以及 NVIDIA Morpheus 網(wǎng)絡(luò)安全應(yīng)用框架，可簡化從數(shù)據(jù)處理和 AI 模型訓(xùn)練到仿真和大規(guī)模部署等AI工作流中的每一步。

  如要進一步了解 Azure 上的 NVIDIA AI 技術(shù)，請訪問我們的合作伙伴頁面。

  關(guān)于 NVIDIA

  自1993年成立以來，NVIDIA(NASDAQ: NVDA)一直是加速計算領(lǐng)域的先驅(qū)。NVIDIA 1999年發(fā)明的GPU驅(qū)動了PC游戲市場的增長，并重新定義了現(xiàn)代計算機圖形，開啟了現(xiàn)代AI時代，推動了元宇宙的創(chuàng)建。NVIDIA現(xiàn)在是一家全棧計算公司，其數(shù)據(jù)中心規(guī)模的產(chǎn)品正在重塑整個行業(yè)。更多信息，請訪問 https://nvidianews.nvidia.com/。