Scale-up網(wǎng)絡(luò)是以推理的大顯存并行計算流量和訓(xùn)練的張量并行(TP)以及專家并行(MoE)流量為主，來滿足在網(wǎng)計算的加速需求。據(jù)相關(guān)大模型廠商介紹，對Scale-up網(wǎng)絡(luò)規(guī)模的需求預(yù)計在未來2-3年還要擴(kuò)大2到3倍以上。在MoE模型的驅(qū)動下，Scale-up的部署趨勢將超出單個服務(wù)器機(jī)架的范圍。

面對其對互聯(lián)性能的極致追求，目前業(yè)內(nèi)主要采用專門設(shè)計的協(xié)議比如NVIDIA的NVlink及NVSwitch技術(shù)。然而，這些基于私有協(xié)議的技術(shù)不僅成本高昂，且不對外開放。為了打破這一局面，AI網(wǎng)絡(luò)產(chǎn)業(yè)鏈在近期共同發(fā)起了UALink 加速器互聯(lián)協(xié)議聯(lián)盟，旨在推動AI網(wǎng)絡(luò)Scale-up互聯(lián)的創(chuàng)新技術(shù)發(fā)展。

奇異摩爾榮幸宣布加入UALink(Ultra Accelerator Link ) 加速器間互聯(lián)協(xié)議聯(lián)盟，憑借其在互聯(lián)領(lǐng)域的豐富積累，為GPU卡間的高效互聯(lián)貢獻(xiàn)技術(shù)力量，攜手生態(tài)開啟AI網(wǎng)絡(luò)的新篇章。

關(guān)于UALink聯(lián)盟

Ultra Accelerator Link (UALink) 是一種高速、縱向擴(kuò)展的加速器互聯(lián)技術(shù)，可提升下一代 AI 網(wǎng)絡(luò)的性能。UALink 1.0 規(guī)范將為 AI Pod 中多達(dá) 1024 個加速器的每通道擴(kuò)展連接實(shí)現(xiàn)高達(dá) 200Gbps 的擴(kuò)展連接。該規(guī)范于今年向 Contributor 成員開放，并在 2025 年第一季度供一般審查。

UALink主要特點(diǎn)

1通過行業(yè)標(biāo)準(zhǔn)協(xié)議在加速卡之間實(shí)現(xiàn)高效通信

2更靈活地擴(kuò)大Pod中加速卡的數(shù)量

3優(yōu)化當(dāng)前和未來計算密集型工作負(fù)載所需的性能

4與Scale-out 相關(guān)標(biāo)準(zhǔn)兼容如UEC

UALink的開源性質(zhì)鼓勵了AI網(wǎng)絡(luò)產(chǎn)業(yè)鏈的協(xié)同開發(fā)模式，摒棄專有系統(tǒng)不僅催生了創(chuàng)新，還加速了技術(shù)的廣泛采納與持續(xù)優(yōu)化。 UALink的核心價值不止于作為NVLink的替代選項，它更在于為各類企業(yè)，無論是巨頭，還是中小型企業(yè)，如奇異摩爾般的Chiplet&互聯(lián)企業(yè)可以憑借在互聯(lián)領(lǐng)域的專長，為聯(lián)盟的互聯(lián)技術(shù)進(jìn)步貢獻(xiàn)力量，并在這一開放體系中實(shí)現(xiàn)技術(shù)成果的最大化。

UALink如何在中國市場落地

作為國際互聯(lián)系統(tǒng)開發(fā)標(biāo)準(zhǔn)，UALink在落地過程中需要覆蓋多個產(chǎn)業(yè)環(huán)節(jié)，因此成員涵蓋了芯片制造商、交換機(jī)提供商、服務(wù)器提供商等整個產(chǎn)業(yè)鏈的關(guān)鍵角色。然而，由于AI大模型產(chǎn)業(yè)在國內(nèi)具備本土特色，因此UALink如何在中國市順利落地，也面臨著挑戰(zhàn)。

為了打造一個原生支持AI場景的Scale-up開放生態(tài)系統(tǒng)，阿里云在今年9月倡議并牽頭成立了ALS(ALink System，加速器互連系統(tǒng))開放生態(tài)系統(tǒng)，依托于ODCC(開放數(shù)據(jù)中心委員會)，解決Scale-up互連系統(tǒng)的行業(yè)發(fā)展規(guī)范問題。ALS系統(tǒng)生態(tài)也是首個兼容UALink的國內(nèi)生態(tài)標(biāo)準(zhǔn)體系。

奇異摩爾作為ALS系統(tǒng)的核心成員之一通過加入ALS與UALink互聯(lián)系統(tǒng)聯(lián)盟，有效融合國際標(biāo)準(zhǔn)與國內(nèi)AI產(chǎn)業(yè)鏈生態(tài)，進(jìn)一步推動產(chǎn)品應(yīng)用的本土化實(shí)施與落地。

UEC與UALink并駕齊驅(qū)

AI網(wǎng)絡(luò)生態(tài)的建立正在逐步完善中;UEC超以太聯(lián)盟即將在2025年第一季度推出1.0標(biāo)準(zhǔn)版本，這與UALink的首個標(biāo)準(zhǔn)版本發(fā)布時間相近。這兩個聯(lián)盟雖然各自獨(dú)立，但成員之間存在著較高的重疊，這為行業(yè)內(nèi)的技術(shù)融合和創(chuàng)新提供了良好的基礎(chǔ)。

這還意味著生態(tài)成員們在Scale-out互聯(lián)層面可以利用UEC標(biāo)準(zhǔn)成就北向網(wǎng)絡(luò)更大規(guī)模集群的擴(kuò)展，在Scale-up互聯(lián)層面可以利用UALink來實(shí)現(xiàn)南向網(wǎng)絡(luò)更高效的GPU加速卡間通信。不謀而合的是，這些生態(tài)標(biāo)準(zhǔn)的基礎(chǔ)正是以太網(wǎng)。以太網(wǎng)擁有最成熟的生態(tài)無論是國際還是國內(nèi)。

復(fù)用以太網(wǎng)生態(tài)，與產(chǎn)業(yè)鏈的上下游兼容適配是奇異摩爾正在踐行的。正如特斯拉使用了私有的TTPoE協(xié)議 ，在保持與標(biāo)準(zhǔn)以太網(wǎng)基礎(chǔ)設(shè)施兼容的同時實(shí)現(xiàn)了片內(nèi)/片間/網(wǎng)間的統(tǒng)一互聯(lián)。 AI網(wǎng)絡(luò)的終點(diǎn)是三網(wǎng)融合，這一愿景的實(shí)現(xiàn)，依賴于行業(yè)內(nèi)每一個參與者的共同努力。隨著技術(shù)標(biāo)準(zhǔn)的逐步成熟，AI網(wǎng)絡(luò)的新篇章正在緩緩揭開序幕。

關(guān)于我們

AI網(wǎng)絡(luò)全棧式互聯(lián)架構(gòu)產(chǎn)品及解決方案提供商

奇異摩爾，成立于2021年初，是一家行業(yè)領(lǐng)先的AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商。公司依托于先進(jìn)的高性能RDMA 和Chiplet技術(shù)，創(chuàng)新性地構(gòu)建了統(tǒng)一互聯(lián)架構(gòu)——Kiwi Fabric，專為超大規(guī)模AI計算平臺量身打造，以滿足其對高性能互聯(lián)的嚴(yán)苛需求。

我們的產(chǎn)品線豐富而全面，涵蓋了面向不同層次互聯(lián)需求的關(guān)鍵產(chǎn)品，如面向北向Scale out網(wǎng)絡(luò)的AI原生智能網(wǎng)卡、面向南向Scale up網(wǎng)絡(luò)的GPU片間互聯(lián)芯粒、以及面向芯片內(nèi)算力擴(kuò)展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產(chǎn)品共同構(gòu)成了全鏈路互聯(lián)解決方案，為AI計算提供了堅實(shí)的支撐。

奇異摩爾的核心團(tuán)隊匯聚了來自全球半導(dǎo)體行業(yè)巨頭如NXP、Intel、Broadcom等公司的精英，他們憑借豐富的AI互聯(lián)產(chǎn)品研發(fā)和管理經(jīng)驗(yàn)，致力于推動技術(shù)創(chuàng)新和業(yè)務(wù)發(fā)展。團(tuán)隊擁有超過50個高性能網(wǎng)絡(luò)及Chiplet量產(chǎn)項目的經(jīng)驗(yàn)，為公司的產(chǎn)品和服務(wù)提供了強(qiáng)有力的技術(shù)保障。我們的使命是支持一個更具創(chuàng)造力的芯世界，愿景是讓計算變得簡單。奇異摩爾以創(chuàng)新為驅(qū)動力，技術(shù)探索新場景，生態(tài)構(gòu)建新的半導(dǎo)體格局，為高性能AI計算奠定穩(wěn)固的基石。