ICC訊 周一,IBM宣布在光學技術(shù)上取得了突破性的進展,該技術(shù)有望大幅改進數(shù)據(jù)中心訓練和運行生成式人工智能(AI)模型的方式。其新型共封裝光學技術(shù)(Co-packaged optics)基本實現(xiàn)了將光學技術(shù)的力量帶入芯片內(nèi)部,使得數(shù)據(jù)中心內(nèi)的連接可以達到光速。
圖片來源:IBM官網(wǎng)
在一次媒體簡報會上,IBM半導(dǎo)體總經(jīng)理Mukesh Khare對記者說,電信行業(yè)在制造更快的芯片方面已經(jīng)取得了顯著進步,但是這些芯片之間的通信速度并沒有跟上這個步伐。計算能力的增長速度與芯片間通信速度的增長速度之間存在幾個數(shù)量級的差距。
他指出:“實際上,從更基礎(chǔ)的層面上講,芯片依然通過電進行通信,它們使用銅線。而我們都知道,最優(yōu)秀的通信技術(shù)是光纖,這就是為什么在長距離通信中到處都在使用光纖?!?
盡管共封裝光學技術(shù)已經(jīng)存在一段時間,但IBM開發(fā)了一種新型的聚合物光波導(dǎo)(PWG)技術(shù),為共封裝光學帶來了革新。PWG技術(shù)使得芯片制造商能夠在硅光子芯片的邊緣區(qū)域——這一被稱為“黃金地段”的寶貴空間——布置比以往多六倍的光纖。每根光纖的寬度大約是人類頭發(fā)的三倍,長度可以從幾厘米延伸到數(shù)百米,并且能夠以每秒太比特的速度傳輸數(shù)據(jù)。
這一切意味著什么呢?
該公司表示,這項技術(shù)將使得芯片間的通信帶寬比現(xiàn)在使用電子技術(shù)時快80倍,并將能耗降低五倍以上。
此外,它還可以使大型語言模型(LLM)的訓練速度提高多達五倍,將訓練標準LLM所需的時間從三個月縮短到三周,而且隨著更大模型和更多GPU的使用,性能增益還會增加。
除了讓GPU和加速器之間更快地相互通信之外,這種技術(shù)還可能重新定義計算行業(yè)通過電路板和服務(wù)器傳輸高帶寬數(shù)據(jù)的方式。
Khare表示:“我們非常興奮能夠引入光的力量,從根本上加速了人工智能世界和許多其他應(yīng)用的發(fā)展?!?
當被問及這項技術(shù)何時會商業(yè)化時,Khare表示IBM的研究部門“已經(jīng)準備好投入使用”。
官方原文:https://uk.newsroom.ibm.com/IBM-Brings-the-Speed-of-Light-to-the-Generative-AI-Era-with-Optics-Breakthrough