OFC 2024: IPEC成功舉辦AI時代低時延高速光互聯(lián)技術(shù)研討會

  ICC訊 OFC 2024期間，國際光電委員會（IPEC）成功舉辦“低時延高速光互聯(lián)技術(shù)，釋放AI澎湃算力”主題研討會，聚焦探討AI大模型、新算力和新一代低時延高速光互聯(lián)技術(shù)的發(fā)展趨勢和創(chuàng)新方向，共同構(gòu)建面向未來的智能、高效光聯(lián)接世界。

  本次研討會由IPEC先進技術(shù)工作組主席、索爾思光電首席工程師 Frank Chang主持，云集了來自Futurewei、華工正源、海信寬帶、百度等業(yè)界專家代表與會，共同討論面向AI計算的下一代光互聯(lián)技術(shù)。

OFC 2024 – SF25, IPEC Session

  IEEE P802.3dj Task Force 主席、Futurewei公司杰出工程師 John D'Ambrosia首先分享了“面向AI時代的高速以太網(wǎng)”主題演講。John指出，當(dāng)今以太網(wǎng)端口最高速率已升級到800 GbE，并且1.6 TbE光互聯(lián)技術(shù)也在研究當(dāng)中，而在以太網(wǎng)發(fā)展的過程中，時延一直是重要話題：隨著速率的提升，以太網(wǎng)對時延的影響逐漸減少；而時延對以太網(wǎng)發(fā)展的“貢獻”越來越大。John分享了一個有趣的案例，就是AI數(shù)據(jù)中心中的時延分布，案例顯示與以太網(wǎng)幀和FEC幀相關(guān)的時延隨著速率的提高而顯著降低，通常傳播時延（5 ns/m）占據(jù)著主導(dǎo)地位。但是在AI數(shù)據(jù)中心場景下，由于光纖互聯(lián)范圍通常小于2公里，傳播時延對AI訓(xùn)練效率影響較小，相對而言在更高層次上的時延優(yōu)化（鏈路層、傳輸層和應(yīng)用層）將有更大的收益。以太網(wǎng)仍在不斷發(fā)展、演變，了解真正的“時延”需求至關(guān)重要，只有真正了解清楚，才能獲得最平衡、最適合應(yīng)用的“最優(yōu)”時延。

  華工正源研發(fā)副總裁Jim Theodoras分享了AI計算為光電子領(lǐng)域帶來的變化，在2024 GTC大會上，英偉達(dá)發(fā)布Blackwell GB200 NVL72計算平臺，該系統(tǒng)采用NVLINK互聯(lián)，其中的Cable Cartridges全部采用銅互連方式替代光模塊，能夠節(jié)省20kW功耗。銅纜的特點在于成本低、能耗小，但傳輸距離近、帶寬小，所以當(dāng)AI計算需求超出單機架GPU能力，而需要跨機架的GPU協(xié)同工作時，采用光聯(lián)接則將具有顯著增加GPU集群規(guī)模的巨大潛力。Jim指出，早在AI成為熱點之前，光電子行業(yè)就開發(fā)出 LPO (Linear Pluggable Optics，線性可插拔光學(xué))，以節(jié)省功耗；AI行業(yè)很快看到了LPO與AI的巨大契合點：LPO完美適用于所有規(guī)格的以太網(wǎng)、Infiniband和NVlink連接技術(shù)。Jim認(rèn)為，當(dāng)今的光電子及其外延技術(shù)的進步和成果， 讓光學(xué)閃耀，未來光學(xué)器件不應(yīng)只注重在功耗上的單一競爭，而應(yīng)專注于實現(xiàn)更具創(chuàng)新的技術(shù)發(fā)展上。

  百度資深光網(wǎng)絡(luò)架構(gòu)師朱宸博士介紹了OCS在AI高性能計算網(wǎng)絡(luò)中的應(yīng)用實踐。OCS通過其全光交換的優(yōu)勢，實現(xiàn)光信號的透明傳輸、支持光纖中任意速率/調(diào)制格式/通信波長光信號的交換，并具有無時鐘抖動、無延遲、不讀取數(shù)據(jù)、無泄漏風(fēng)險等特點。在AI集群中，在傳統(tǒng)clos網(wǎng)絡(luò)架構(gòu)中的server和tor之間嵌入小矩陣OCS、配合SDN控制器可以在不中斷訓(xùn)練任務(wù)的前提下實現(xiàn)網(wǎng)絡(luò)故障快速恢復(fù)，大大提升了整個計算集群的可用性；而同時大矩陣OCS可以與傳統(tǒng)電交換機實現(xiàn)光電混合組網(wǎng)，有效的支撐大規(guī)模訓(xùn)練的通信需求，同時可以在成本、功耗、時延、穩(wěn)定性等多個方面提供相應(yīng)的優(yōu)勢。

  海信寬帶副總經(jīng)理周建英博士分享了面向AI集群應(yīng)用的低時延高速光技術(shù)。周博士指出，人工智能（AI）驅(qū)動下，光模塊的需求持續(xù)增長，成為算力集群通信能力提升的關(guān)鍵。未來，隨著AI網(wǎng)絡(luò)向多模態(tài)發(fā)展，光模塊的應(yīng)用將進一步擴大，LPO等新興技術(shù)也在不斷被探討，進一步實現(xiàn)AI帶來的高算力場景下的低功耗、低時延、高效能。LPO因免DSP可以大幅降低數(shù)據(jù)中心光學(xué)器件的功耗、成本、和傳播時延，目前的展望是 AI的大多數(shù)光學(xué)器件將采用線性驅(qū)動，1.6T LPO采用高性能200G/Lane的SERDES、低RF損耗互連和改進的線性光學(xué)器件（驅(qū)動器+調(diào)制器）是可行的。周博士介紹，海信已經(jīng)開發(fā)了多種技術(shù)的LPO模塊，包括VCSEL、EML、硅光(SiP)、TFLN。展望未來，隨著AI數(shù)據(jù)中心不斷增長的性能和帶寬需求，光學(xué)互聯(lián)技術(shù)必將迎來更多重大革新和應(yīng)用。

  IPEC理事會主席、中國電信首席專家李俊杰表示：“IPEC很高興在OFC上與全球光電產(chǎn)業(yè)伙伴共商技術(shù)趨勢，共話產(chǎn)業(yè)未來的機遇和挑戰(zhàn)；在AI算力驅(qū)動下，光電產(chǎn)業(yè)將再次迎來跨越式發(fā)展的良機，IPEC將秉承建立充分開放、透明、公平、公正的光電標(biāo)準(zhǔn)和光電子產(chǎn)業(yè)平臺的理念，希望與光電產(chǎn)業(yè)同仁協(xié)同，共同推動前沿光電子技術(shù)和產(chǎn)業(yè)成熟、共同開啟面向AI時代的高速光聯(lián)接技術(shù)演進新篇章?！?

  關(guān)于IPEC

  IPEC國際光電委員會（www.ipec-std.org）致力于建立充分開放、透明、公平、公正的光電標(biāo)準(zhǔn)和光電子產(chǎn)業(yè)平臺，并聚焦于光芯片、光/電器件、光模塊和其他相關(guān)領(lǐng)域解決方案的標(biāo)準(zhǔn)化和戰(zhàn)略路標(biāo)研究，以滿足5G、物聯(lián)網(wǎng)、人工智能等市場應(yīng)用的光電需求。

  IPEC注冊于瑞士，對任何有意愿加入的單位開放。所有成員單位均有機會在公平、透明的基礎(chǔ)上參與IPEC標(biāo)準(zhǔn)的制定。

  關(guān)于OFC 2024

  2024年美國光纖通訊展覽會及研討會（Optical Fiber Communication Conference & Exposition）由美國光學(xué)學(xué)會（原OSA）、美國通信學(xué)會（IEEE/ComSoc）、美國激光與光電協(xié)會（IEEE/LEOS）聯(lián)合主辦，于3月26日~28日在美國加利福尼亞州圣地亞哥舉行。OFC是全球光電光通訊展覽中最重要的活動，1975年創(chuàng)辦，目前已被公認(rèn)為全球光通信領(lǐng)域中規(guī)格最高、規(guī)模最大、歷史最悠久、專業(yè)性最強、影響力最大的國際性盛會。