曦智科技全球首發(fā)新一代光電混合計算卡

  ICC訊 3月25日，曦智科技正式發(fā)布全新光電混合計算卡“曦智天樞”。曦智科技創(chuàng)始人兼首席執(zhí)行官沈亦晨博士在發(fā)布現(xiàn)場表示：“曦智天樞首次實現(xiàn)了光電混合計算在復雜商業(yè)化模型中的應用，是曦智科技光電混合算力技術在產(chǎn)品化和商業(yè)化進程中的重要突破。我們堅信，光電混合將會為人工智能、大語言模型、智能制造等領域帶來算力革新?！?

  天樞是一款深度融合光芯片與電芯片各自優(yōu)勢特點，并采用了3D先進封裝技術的可編程光電混合計算卡。該產(chǎn)品在光電集成度、光子矩陣規(guī)模、精度、可編程性等方面較前代產(chǎn)品實現(xiàn)了明顯性能提升。天樞在支持科學計算（如伊辛算法）基礎上，加強了對于ResNet50等商業(yè)算法應用的支持，在保持光計算優(yōu)勢的基礎上，大幅提升了產(chǎn)品通用適配性。

  2021年12月，曦智科技首次對外發(fā)布光電混合計算產(chǎn)品，成功驗證了光電混合計算在特定算法下，相較于主流GPU數(shù)百倍的速度優(yōu)勢。今天曦智天樞的問世，代表光電混合技術已在產(chǎn)品實現(xiàn)方面取得了巨大跨越。

  天樞采用非相干架構，這種設計不僅易于系統(tǒng)擴展，還具備出色的抗干擾能力和更高的計算精度。天樞的核心處理器由光學處理單元（OPU）和電學專用集成電路（ASIC）組成，光芯片和電芯片通過3D先進封裝技術協(xié)同工作，主頻速率1GHz，輸出精度8bit；其中光芯片面積達到600平方毫米，較上一代芯片提升3倍；光芯片上的器件數(shù)量超四萬個，器件尺寸進一步縮小，較上一代提升3倍，集成度顯著提升；天樞最大可支持128x128矩陣規(guī)模，是上一代芯片的4倍，運算能力和靈活性雙重提升；用戶通過API自由配置計算矩陣系數(shù)，使天樞擁有了更強的適應性和優(yōu)化空間。

  光子計算是一種被動運算，運算任務在光通過光子矩陣的過程中即可完成，它顛覆了傳統(tǒng)CMOS電子芯片的運算邏輯。光子芯片的性能提升與光子矩陣規(guī)模、主頻速率和波長數(shù)量等參數(shù)相關，而不依賴晶體管的密度及芯片制程的提升。曦智科技首席技術官孟懷宇博士在發(fā)布會上首次對外提出了等效光算力（EOPP：Effective Optical Processing Power）標準。這是一個考慮了矩陣規(guī)模、輸出精度、權重刷新速度等的綜合算力評價方法，相比當前主流的電芯片指標計算方法，更符合光計算的原理和特點。“光電混合計算是未來的算力趨勢，我們希望業(yè)界對于光子計算的算力能夠擁有一個更客觀的衡量標準”，孟懷宇博士表示。

  為實現(xiàn)光電芯片間的高效集成，天樞采用光電混合3D TSV（Through Silicon Via，硅通孔）+FlipChip（倒裝芯片）封裝技術。TSV的運用顯著降低了光電芯片間的傳輸延遲，并提升了信號完整性和散熱性能，同時能夠節(jié)省芯片面積，為芯片設計提供更高的靈活性。孟懷宇博士表示：“曦智科技自創(chuàng)立之初就看到封裝對于光電集成的重要性并不斷努力攻克技術難關，TSV的成功落地解決了傳統(tǒng)封裝技術的瓶頸，其價值和意義是惠及整個光電混合產(chǎn)業(yè)的?！?

  在軟件方面，天樞搭載了曦智光電混合計算軟件棧，其算算子庫包含RVV（RiscV Vector)算子，電矩陣(dMAC)加速算子，光矩陣(oMAC)加速算子, 支持CV類和LLM類模型，以及non-AI算子，如Ising，LineSolver等。用戶借助曦智編譯器，可以靈活地運用這些算子來構建高效的應用模型。此外，平臺還支持用戶自定義算子，通過OpenCL C/C++語言進行編譯和優(yōu)化，進一步擴展了算法開發(fā)的靈活性。

  曦智科技的軟件棧與主流框架如Pytorch和ONNX深度集成，客戶可以通過軟件棧直接使用天樞的光矩陣和電矩陣加速單元對模型和算法進行加速和驗證，也可以將模型通過曦智編譯框架編譯部署在端側進行推理。通過軟件棧，天樞成功運行了深度卷積神經(jīng)網(wǎng)絡模型ResNet50及AI大語言模型LlaMA 2，首次實現(xiàn)了光電混合計算在商業(yè)化場景中的應用。

  曦智科技首席運營官王瀧表示：“天樞的背后，是曦智科技硅光、數(shù)字、模擬、封裝、系統(tǒng)、軟件等團隊協(xié)同的成果，我們希望有更多的開發(fā)者和生態(tài)伙伴，通過天樞和我們一起探索光電混合算力更廣闊的應用場景，向著光電混合算力商業(yè)化的方向共同前行?！?

  曦智科技已啟動下一代光電混合計算產(chǎn)品的研發(fā)，曦智科技創(chuàng)始人兼首席執(zhí)行官沈亦晨博士表示：“未來產(chǎn)品將會進一步提升計算能力，以支持更為復雜的商業(yè)化應用場景，為人工智能、算力中心提供新型算力支撐。”