曦智科技全球首發(fā)新一代光電混合計(jì)算卡

  ICC訊 3月25日，曦智科技正式發(fā)布全新光電混合計(jì)算卡“曦智天樞”。曦智科技創(chuàng)始人兼首席執(zhí)行官沈亦晨博士在發(fā)布現(xiàn)場(chǎng)表示：“曦智天樞首次實(shí)現(xiàn)了光電混合計(jì)算在復(fù)雜商業(yè)化模型中的應(yīng)用，是曦智科技光電混合算力技術(shù)在產(chǎn)品化和商業(yè)化進(jìn)程中的重要突破。我們堅(jiān)信，光電混合將會(huì)為人工智能、大語言模型、智能制造等領(lǐng)域帶來算力革新?！?

  天樞是一款深度融合光芯片與電芯片各自優(yōu)勢(shì)特點(diǎn)，并采用了3D先進(jìn)封裝技術(shù)的可編程光電混合計(jì)算卡。該產(chǎn)品在光電集成度、光子矩陣規(guī)模、精度、可編程性等方面較前代產(chǎn)品實(shí)現(xiàn)了明顯性能提升。天樞在支持科學(xué)計(jì)算（如伊辛算法）基礎(chǔ)上，加強(qiáng)了對(duì)于ResNet50等商業(yè)算法應(yīng)用的支持，在保持光計(jì)算優(yōu)勢(shì)的基礎(chǔ)上，大幅提升了產(chǎn)品通用適配性。

  2021年12月，曦智科技首次對(duì)外發(fā)布光電混合計(jì)算產(chǎn)品，成功驗(yàn)證了光電混合計(jì)算在特定算法下，相較于主流GPU數(shù)百倍的速度優(yōu)勢(shì)。今天曦智天樞的問世，代表光電混合技術(shù)已在產(chǎn)品實(shí)現(xiàn)方面取得了巨大跨越。

  天樞采用非相干架構(gòu)，這種設(shè)計(jì)不僅易于系統(tǒng)擴(kuò)展，還具備出色的抗干擾能力和更高的計(jì)算精度。天樞的核心處理器由光學(xué)處理單元（OPU）和電學(xué)專用集成電路（ASIC）組成，光芯片和電芯片通過3D先進(jìn)封裝技術(shù)協(xié)同工作，主頻速率1GHz，輸出精度8bit；其中光芯片面積達(dá)到600平方毫米，較上一代芯片提升3倍；光芯片上的器件數(shù)量超四萬個(gè)，器件尺寸進(jìn)一步縮小，較上一代提升3倍，集成度顯著提升；天樞最大可支持128x128矩陣規(guī)模，是上一代芯片的4倍，運(yùn)算能力和靈活性雙重提升；用戶通過API自由配置計(jì)算矩陣系數(shù)，使天樞擁有了更強(qiáng)的適應(yīng)性和優(yōu)化空間。

  光子計(jì)算是一種被動(dòng)運(yùn)算，運(yùn)算任務(wù)在光通過光子矩陣的過程中即可完成，它顛覆了傳統(tǒng)CMOS電子芯片的運(yùn)算邏輯。光子芯片的性能提升與光子矩陣規(guī)模、主頻速率和波長(zhǎng)數(shù)量等參數(shù)相關(guān)，而不依賴晶體管的密度及芯片制程的提升。曦智科技首席技術(shù)官孟懷宇博士在發(fā)布會(huì)上首次對(duì)外提出了等效光算力（EOPP：Effective Optical Processing Power）標(biāo)準(zhǔn)。這是一個(gè)考慮了矩陣規(guī)模、輸出精度、權(quán)重刷新速度等的綜合算力評(píng)價(jià)方法，相比當(dāng)前主流的電芯片指標(biāo)計(jì)算方法，更符合光計(jì)算的原理和特點(diǎn)?！肮怆娀旌嫌?jì)算是未來的算力趨勢(shì)，我們希望業(yè)界對(duì)于光子計(jì)算的算力能夠擁有一個(gè)更客觀的衡量標(biāo)準(zhǔn)”，孟懷宇博士表示。

  為實(shí)現(xiàn)光電芯片間的高效集成，天樞采用光電混合3D TSV（Through Silicon Via，硅通孔）+FlipChip（倒裝芯片）封裝技術(shù)。TSV的運(yùn)用顯著降低了光電芯片間的傳輸延遲，并提升了信號(hào)完整性和散熱性能，同時(shí)能夠節(jié)省芯片面積，為芯片設(shè)計(jì)提供更高的靈活性。孟懷宇博士表示：“曦智科技自創(chuàng)立之初就看到封裝對(duì)于光電集成的重要性并不斷努力攻克技術(shù)難關(guān)，TSV的成功落地解決了傳統(tǒng)封裝技術(shù)的瓶頸，其價(jià)值和意義是惠及整個(gè)光電混合產(chǎn)業(yè)的?！?

  在軟件方面，天樞搭載了曦智光電混合計(jì)算軟件棧，其算算子庫包含RVV（RiscV Vector)算子，電矩陣(dMAC)加速算子，光矩陣(oMAC)加速算子, 支持CV類和LLM類模型，以及non-AI算子，如Ising，LineSolver等。用戶借助曦智編譯器，可以靈活地運(yùn)用這些算子來構(gòu)建高效的應(yīng)用模型。此外，平臺(tái)還支持用戶自定義算子，通過OpenCL C/C++語言進(jìn)行編譯和優(yōu)化，進(jìn)一步擴(kuò)展了算法開發(fā)的靈活性。

  曦智科技的軟件棧與主流框架如Pytorch和ONNX深度集成，客戶可以通過軟件棧直接使用天樞的光矩陣和電矩陣加速單元對(duì)模型和算法進(jìn)行加速和驗(yàn)證，也可以將模型通過曦智編譯框架編譯部署在端側(cè)進(jìn)行推理。通過軟件棧，天樞成功運(yùn)行了深度卷積神經(jīng)網(wǎng)絡(luò)模型ResNet50及AI大語言模型LlaMA 2，首次實(shí)現(xiàn)了光電混合計(jì)算在商業(yè)化場(chǎng)景中的應(yīng)用。

  曦智科技首席運(yùn)營(yíng)官王瀧表示：“天樞的背后，是曦智科技硅光、數(shù)字、模擬、封裝、系統(tǒng)、軟件等團(tuán)隊(duì)協(xié)同的成果，我們希望有更多的開發(fā)者和生態(tài)伙伴，通過天樞和我們一起探索光電混合算力更廣闊的應(yīng)用場(chǎng)景，向著光電混合算力商業(yè)化的方向共同前行。”

  曦智科技已啟動(dòng)下一代光電混合計(jì)算產(chǎn)品的研發(fā)，曦智科技創(chuàng)始人兼首席執(zhí)行官沈亦晨博士表示：“未來產(chǎn)品將會(huì)進(jìn)一步提升計(jì)算能力，以支持更為復(fù)雜的商業(yè)化應(yīng)用場(chǎng)景，為人工智能、算力中心提供新型算力支撐?！?