實(shí)現(xiàn)PCIe Gen5光互連、CXL光互連

現(xiàn)場(chǎng)演示內(nèi)存光互連擴(kuò)展方案

榮獲2023全球閃存峰會(huì)大獎(jiǎng)，入選峰會(huì)年度大事記

?
美國(guó)舊金山時(shí)間8月8日，全球光電混合計(jì)算領(lǐng)軍企業(yè)曦智科技（Lightelligence）攜全新光互連技術(shù)產(chǎn)品亮相2023全球閃存峰會(huì)（Flash Memory Summit，F(xiàn)MS），發(fā)布了曦智科技首款適用PCIe和CXL（Compute Express Link）協(xié)議的數(shù)據(jù)中心光互連硬件產(chǎn)品——Photowave，并現(xiàn)場(chǎng)演示了內(nèi)存擴(kuò)展光互連解決方案。
?
作為首個(gè)通過(guò)光互連實(shí)現(xiàn)CXL內(nèi)存擴(kuò)展的產(chǎn)品，Photowave在FMS峰會(huì)上一經(jīng)亮相即斬獲了大會(huì)最高榮譽(yù)（Best of Show），并因此被列入了FMS全球閃存峰會(huì)2023年度大事記。
?
Photowave采用曦智科技三大核心技術(shù)之一的片間光網(wǎng)絡(luò)技術(shù)（Optical Networking，oNET），借助光子技術(shù)低延遲和高能效的特性，實(shí)現(xiàn)遠(yuǎn)距離間高效數(shù)據(jù)傳輸，提升數(shù)據(jù)中心內(nèi)不同計(jì)算硬件的工作負(fù)載效率，從而賦能可重構(gòu)解耦架構(gòu)數(shù)據(jù)中心的資源池化和橫向擴(kuò)展，實(shí)現(xiàn)算力網(wǎng)絡(luò)的最終愿景。
?
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示：“我們對(duì)這一重大突破非常興奮。Photowave會(huì)很快建立工作負(fù)載效率的標(biāo)準(zhǔn)，助力可擴(kuò)展的計(jì)算卡和加速卡集群實(shí)現(xiàn)優(yōu)化配置?！?br /> ?

曦智科技的Photowave產(chǎn)品榮獲FMS Most Innovative Memory Technology獎(jiǎng)項(xiàng)

?
對(duì)于獲得FMS2023大獎(jiǎng)，沈亦晨博士又補(bǔ)充道：“這個(gè)獎(jiǎng)項(xiàng)是對(duì)Photowave的極大認(rèn)可，它肯定了光互連在資源池化和可擴(kuò)展算力集群中的價(jià)值，并將成為新一輪算力基礎(chǔ)設(shè)施建設(shè)中的關(guān)鍵技術(shù)。我們非常高興能夠?qū)⑦@項(xiàng)技術(shù)推向市場(chǎng)，也期待通過(guò)曦智科技的光互連技術(shù)，提高數(shù)據(jù)中心算力基礎(chǔ)設(shè)施的性能和效率?！?br /> ?
“電子芯片的功耗、通信和內(nèi)存等方面都在接近其物理極極限，隨著人工智能和大型語(yǔ)言模型將消耗越來(lái)越多的算力，我們需要新的方法和技術(shù)來(lái)支持算力的持續(xù)擴(kuò)展，”FMS全球閃存峰會(huì)獎(jiǎng)項(xiàng)計(jì)劃主席， Network Storage Advisors Inc.總裁Jay Kramer表示：“我們很榮幸將這一獎(jiǎng)項(xiàng)頒給曦智科技的Photowave產(chǎn)品，它作為首款為CXL互連協(xié)議（Compute Express Link）設(shè)計(jì)的光互連硬件，提供了在機(jī)架內(nèi)或跨機(jī)架擴(kuò)展內(nèi)存的高效解決方案，并體現(xiàn)出了光子在延遲和能效等方面的顯著優(yōu)勢(shì)?！?br /> ?
FMS全球閃存峰會(huì)大獎(jiǎng)旨在表彰各個(gè)細(xì)分市場(chǎng)的行業(yè)創(chuàng)新技術(shù)領(lǐng)導(dǎo)者，以及他們?yōu)橥黄平鉀Q數(shù)據(jù)中心和企業(yè)基礎(chǔ)設(shè)施瓶頸的關(guān)鍵問(wèn)題所研發(fā)的產(chǎn)品。
?
當(dāng)前，數(shù)據(jù)中心為應(yīng)對(duì)工作負(fù)載中計(jì)算資源和內(nèi)存閑置問(wèn)題所付出的成本正越來(lái)越高，因此，業(yè)界開(kāi)始推動(dòng)CXL協(xié)議標(biāo)準(zhǔn)，以解耦計(jì)算卡、加速卡和內(nèi)存等硬件資源，減少閑置，從而提升基礎(chǔ)架構(gòu)的使用效率。然而目前基于以太網(wǎng)的基礎(chǔ)架構(gòu)延遲過(guò)高，難以滿足解耦數(shù)據(jù)中心的性能要求。Photowave光互連產(chǎn)品則提供了一種全新的解決方案。
?
在本次FMS峰會(huì)上，Ron Swartzentruber，曦智科技工程總監(jiān)、Photowave產(chǎn)品技術(shù)負(fù)責(zé)人還發(fā)表了專題演講，詳細(xì)介紹了Photowave的產(chǎn)品細(xì)節(jié)和曦智科技光互連解決方案的優(yōu)勢(shì)。
?

曦智科技工程總監(jiān)Ron Swartzentruber發(fā)表演講

?
Photowave產(chǎn)品系列有多種外觀尺寸類型，包括標(biāo)準(zhǔn)PCIe卡、OCP 3.0 SFF卡和有源光纜等形態(tài)，設(shè)計(jì)數(shù)據(jù)傳輸延遲低于20納秒，其中有源光纜延遲低至1納秒以下，功耗也降至15瓦以下。該產(chǎn)品系列適用于服務(wù)器平臺(tái)、CXL交換機(jī)、存儲(chǔ)應(yīng)用以及xPU之間的互連。
?
Photowave通過(guò)光學(xué)器件實(shí)現(xiàn)CXL 2.0/PCIe Gen 5的連接，可配置x16、x8、x4、x2等不同通道數(shù)，覆蓋多種部署場(chǎng)景。除了高速數(shù)據(jù)信號(hào)，Photowave還可以傳輸邊帶信號(hào)，完美兼容標(biāo)準(zhǔn)協(xié)議，幫助數(shù)據(jù)中心實(shí)現(xiàn)更高效、更可靠的可重構(gòu)解耦架構(gòu)。
?

Photowave產(chǎn)品具有多種形態(tài)，通用性強(qiáng)

?
在FMS現(xiàn)場(chǎng)，曦智科技演示了如何通過(guò)Photowave顯著提升大語(yǔ)言模型（LLM）推理中的工作負(fù)載效率。在大語(yǔ)言模型OPT-66B推理中，當(dāng)使用兩張Photowave PCIe Gen5 卡分別連接AMD Genoa CPU服務(wù)器和三星CXL可擴(kuò)展內(nèi)存時(shí)，CXL可擴(kuò)展內(nèi)存的LLM推理吞吐量相較于SSD/NVMe磁盤卸載體現(xiàn)出了2.4倍的穩(wěn)定優(yōu)勢(shì)。
?
今年以來(lái)，曦智科技不斷加快產(chǎn)品市場(chǎng)化進(jìn)程，致力于建立完整的光電混合計(jì)算新生態(tài)。此次發(fā)布的全新光互連產(chǎn)品從用戶痛點(diǎn)出發(fā)，由發(fā)揮光電混合計(jì)算優(yōu)越性的場(chǎng)景切入，為客戶提供了低延時(shí)、低功耗的算力提升解決方案。
?