ICC訊 美國舊金山時間8月8日,全球光電混合計算領(lǐng)軍企業(yè)曦智科技(Lightelligence)攜全新光互連技術(shù)產(chǎn)品亮相2023全球閃存峰會(Flash Memory Summit,F(xiàn)MS),發(fā)布了曦智科技首款適用PCIe和CXL(Compute Express Link)協(xié)議的數(shù)據(jù)中心光互連硬件產(chǎn)品——Photowave,并現(xiàn)場演示了內(nèi)存擴(kuò)展光互連解決方案。
作為首個通過光互連實(shí)現(xiàn)CXL內(nèi)存擴(kuò)展的產(chǎn)品,Photowave在FMS峰會上一經(jīng)亮相即斬獲了大會最高榮譽(yù)(Best of Show),并因此被列入了FMS全球閃存峰會2023年度大事記。
Photowave采用曦智科技三大核心技術(shù)之一的片間光網(wǎng)絡(luò)技術(shù)(Optical Networking,oNET),借助光子技術(shù)低延遲和高能效的特性,實(shí)現(xiàn)遠(yuǎn)距離間高效數(shù)據(jù)傳輸,提升數(shù)據(jù)中心內(nèi)不同計算硬件的工作負(fù)載效率,從而賦能可重構(gòu)解耦架構(gòu)數(shù)據(jù)中心的資源池化和橫向擴(kuò)展,實(shí)現(xiàn)算力網(wǎng)絡(luò)的最終愿景。
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示:“我們對這一重大突破非常興奮。Photowave會很快建立工作負(fù)載效率的標(biāo)準(zhǔn),助力可擴(kuò)展的計算卡和加速卡集群實(shí)現(xiàn)優(yōu)化配置?!?
曦智科技的Photowave產(chǎn)品榮獲FMS Most Innovative Memory Technology獎項(xiàng)
對于獲得FMS2023大獎,沈亦晨博士又補(bǔ)充道:“這個獎項(xiàng)是對Photowave的極大認(rèn)可,它肯定了光互連在資源池化和可擴(kuò)展算力集群中的價值,并將成為新一輪算力基礎(chǔ)設(shè)施建設(shè)中的關(guān)鍵技術(shù)。我們非常高興能夠?qū)⑦@項(xiàng)技術(shù)推向市場,也期待通過曦智科技的光互連技術(shù),提高數(shù)據(jù)中心算力基礎(chǔ)設(shè)施的性能和效率?!?
“電子芯片的功耗、通信和內(nèi)存等方面都在接近其物理極極限,隨著人工智能和大型語言模型將消耗越來越多的算力,我們需要新的方法和技術(shù)來支持算力的持續(xù)擴(kuò)展,”FMS全球閃存峰會獎項(xiàng)計劃主席, Network Storage Advisors Inc.總裁Jay Kramer表示:“我們很榮幸將這一獎項(xiàng)頒給曦智科技的Photowave產(chǎn)品,它作為首款為CXL互連協(xié)議(Compute Express Link)設(shè)計的光互連硬件,提供了在機(jī)架內(nèi)或跨機(jī)架擴(kuò)展內(nèi)存的高效解決方案,并體現(xiàn)出了光子在延遲和能效等方面的顯著優(yōu)勢?!?
FMS全球閃存峰會大獎旨在表彰各個細(xì)分市場的行業(yè)創(chuàng)新技術(shù)領(lǐng)導(dǎo)者,以及他們?yōu)橥黄平鉀Q數(shù)據(jù)中心和企業(yè)基礎(chǔ)設(shè)施瓶頸的關(guān)鍵問題所研發(fā)的產(chǎn)品。
當(dāng)前,數(shù)據(jù)中心為應(yīng)對工作負(fù)載中計算資源和內(nèi)存閑置問題所付出的成本正越來越高,因此,業(yè)界開始推動CXL協(xié)議標(biāo)準(zhǔn),以解耦計算卡、加速卡和內(nèi)存等硬件資源,減少閑置,從而提升基礎(chǔ)架構(gòu)的使用效率。然而目前基于以太網(wǎng)的基礎(chǔ)架構(gòu)延遲過高,難以滿足解耦數(shù)據(jù)中心的性能要求。Photowave光互連產(chǎn)品則提供了一種全新的解決方案。
在本次FMS峰會上,Ron Swartzentruber,曦智科技工程總監(jiān)、Photowave產(chǎn)品技術(shù)負(fù)責(zé)人還發(fā)表了專題演講,詳細(xì)介紹了Photowave的產(chǎn)品細(xì)節(jié)和曦智科技光互連解決方案的優(yōu)勢。
曦智科技工程總監(jiān)Ron Swartzentruber發(fā)表演講
Photowave產(chǎn)品系列有多種外觀尺寸類型,包括標(biāo)準(zhǔn)PCIe卡、OCP 3.0 SFF卡和有源光纜等形態(tài),設(shè)計數(shù)據(jù)傳輸延遲低于20納秒,其中有源光纜延遲低至1納秒以下,功耗也降至15瓦以下。該產(chǎn)品系列適用于服務(wù)器平臺、CXL交換機(jī)、存儲應(yīng)用以及xPU之間的互連。
Photowave通過光學(xué)器件實(shí)現(xiàn)CXL 2.0/PCIe Gen 5的連接,可配置x16、x8、x4、x2等不同通道數(shù),覆蓋多種部署場景。除了高速數(shù)據(jù)信號,Photowave還可以傳輸邊帶信號,完美兼容標(biāo)準(zhǔn)協(xié)議,幫助數(shù)據(jù)中心實(shí)現(xiàn)更高效、更可靠的可重構(gòu)解耦架構(gòu)。
Photowave產(chǎn)品具有多種形態(tài),通用性強(qiáng)
在FMS現(xiàn)場,曦智科技演示了如何通過Photowave顯著提升大語言模型(LLM)推理中的工作負(fù)載效率。在大語言模型OPT-66B推理中,當(dāng)使用兩張Photowave PCIe Gen5 卡分別連接AMD Genoa CPU服務(wù)器和三星CXL可擴(kuò)展內(nèi)存時,CXL可擴(kuò)展內(nèi)存的LLM推理吞吐量相較于SSD/NVMe磁盤卸載體現(xiàn)出了2.4倍的穩(wěn)定優(yōu)勢。
今年以來,曦智科技不斷加快產(chǎn)品市場化進(jìn)程,致力于建立完整的光電混合計算新生態(tài)。此次發(fā)布的全新光互連產(chǎn)品從用戶痛點(diǎn)出發(fā),由發(fā)揮光電混合計算優(yōu)越性的場景切入,為客戶提供了低延時、低功耗的算力提升解決方案。