我們的大腦由860億個(gè)神經(jīng)元組成，神經(jīng)元是一種非常簡(jiǎn)單的細(xì)胞。而令人吃驚的是，神經(jīng)元之間有1014種連接。也就是說，不同神經(jīng)元之間的連接數(shù)量將增長(zhǎng)5到6個(gè)數(shù)量級(jí)。每一個(gè)神經(jīng)元都將從多個(gè)“in”神經(jīng)元中獲取所有具有一定權(quán)重函數(shù)的輸入，將這些輸入相加，通過樹突輸出信號(hào)，并傳遞給其他神經(jīng)元。

作為一家互連公司，我們正嘗試準(zhǔn)確地實(shí)現(xiàn)突觸的功能，構(gòu)建數(shù)億甚至數(shù)十億個(gè)神經(jīng)元和突觸并連接所有這些神經(jīng)元和突觸，從而復(fù)制人類大腦的運(yùn)行機(jī)制。我們正在各種設(shè)備和系統(tǒng)之間連接數(shù)據(jù)或電源。

AI型架構(gòu)將完全依賴于這些突觸。智能的核心是互連，而不是神經(jīng)元。換句話說，智能依賴于網(wǎng)絡(luò)，而不是各個(gè)計(jì)算單元！與引腳數(shù)量低于處理核心數(shù)量類似，這些突觸將遠(yuǎn)遠(yuǎn)超過神經(jīng)元的數(shù)量（圖2）。

讓我們討論另一個(gè)真實(shí)的工作案例。最近，我參加了全球首屈一指的光通信和網(wǎng)絡(luò)大會(huì) — 美國(guó)光纖通訊展覽會(huì)及研討會(huì)（OFC）。在OFC上，Meta宣布正在研究一種共封裝銅和共封裝光學(xué)解決方案。這是一個(gè)120毫米 x 120毫米的巨大基板。可以在其中16個(gè)位置選擇填充光學(xué)模塊（通過安費(fèi)諾的壓縮插座連接）或使用安費(fèi)諾的DensiLink-OSFP OverPass解決方案。在這兩種方式中，我們都實(shí)現(xiàn)了每秒51.2 TB的IO傳輸速率！在圖3中，位于中間的芯片是Broadcom尚未投產(chǎn)的高階芯片。

圖3

Amphenol DensiLink used in Meta's project

(Courtesy:Albert Chen)

該芯片提供令人難以置信的512個(gè)通道，每個(gè)通道支持112 Gb/s傳輸速率。在十年前，如果要實(shí)現(xiàn)51.2 Tb的數(shù)據(jù)交換，則需要使用10英尺高、包含12個(gè)插槽的模塊化系統(tǒng)。我們實(shí)現(xiàn)了引人矚目的技術(shù)擴(kuò)展能力，而這正是我們應(yīng)用于AI/ML領(lǐng)域的方式。

另一個(gè)例子是TPU（張量處理單元）Pod（圖4）。一個(gè)機(jī)架包含十六個(gè)子架。機(jī)架的每個(gè)子架都有20根水平布置的OSFP電纜。八個(gè)機(jī)架組成一個(gè)Pod，這是Google Ml系統(tǒng)的最小結(jié)構(gòu)。

這共有2560個(gè)OSFP端口和1280根OSFP電纜！而這還只是一個(gè)“小型”系統(tǒng)！?

該系統(tǒng)將構(gòu)成一個(gè)全網(wǎng)狀環(huán)形結(jié)構(gòu)。當(dāng)系統(tǒng)正面的互連從左向右或水平傳輸時(shí)，則系統(tǒng)背面的互連則是從上向下傳輸，從而構(gòu)成一個(gè)完整的網(wǎng)格（圖4）。

每個(gè)機(jī)架都將連接至其最近的機(jī)架，然后再與下一個(gè)相鄰的機(jī)架形成級(jí)聯(lián)式互連，依此類推。同樣，每一個(gè)子架也采用類似的方式連接至另一個(gè)子架。這種無交換設(shè)計(jì)可以大幅減少延遲，因?yàn)闊o需其他中間組件來引導(dǎo)流量，每個(gè)節(jié)點(diǎn)都負(fù)責(zé)自主控制方向。

這就需要大量的電纜！完成這些電纜的物理安裝并實(shí)現(xiàn)準(zhǔn)確可靠的連接無疑是一項(xiàng)巨大的挑戰(zhàn)。在這些高速IO電纜的初步發(fā)展階段，設(shè)計(jì)人員只要安裝10到20根電纜，完全沒想到現(xiàn)在要一次性安裝1280根電纜。

這迫使我們不得不重新考慮用例。我們希望逐步取代用人工流程來安裝這些電纜，因?yàn)樵跀?shù)據(jù)中心內(nèi)，這些Pod覆蓋的面積差不多要達(dá)到4.6萬平方米。維護(hù)和安裝所有這些電纜幾乎是不可能的，因此機(jī)器人應(yīng)運(yùn)而生。否則，我們需要考慮實(shí)現(xiàn)數(shù)據(jù)中心自動(dòng)化。電纜的數(shù)量將持續(xù)增長(zhǎng)，其薄度、彎曲半徑和傳輸速度也將不斷進(jìn)步。因此，我們正在通過技術(shù)投資來打造更纖細(xì)、更靈活的電纜，同時(shí)滿足客戶對(duì)更高帶寬的需求。

問

?

請(qǐng)分享一下安費(fèi)諾在PECFF領(lǐng)域的布局，也就是Gen Z附加卡封裝形式。安費(fèi)諾是否針對(duì)PECFF提供了任何產(chǎn)品？因?yàn)槲衣犝f這項(xiàng)技術(shù)可能應(yīng)用于加速卡。

是的，我們正在研發(fā)相關(guān)產(chǎn)品。這項(xiàng)工作延續(xù)了我們之前在SFF-TA-1002標(biāo)準(zhǔn)上取得的成果。新的接口仍然采用相同的命名方式，但支持不同的應(yīng)用場(chǎng)景。我們已經(jīng)向PCI-SIG委員會(huì)提交了方案。因此，SFF-TA-1002將建立一個(gè)新的標(biāo)準(zhǔn)，通過一個(gè)通用接口來支持固態(tài)驅(qū)動(dòng)器、內(nèi)存、AI/ML、計(jì)算和IO通信。我們推出的就是這樣一個(gè)通用接口。剛開始只限于內(nèi)部應(yīng)用，但現(xiàn)在研發(fā)人員已經(jīng)開始設(shè)法擴(kuò)展其應(yīng)用場(chǎng)景。

問

?

想再重點(diǎn)了解一下SFF-TA-1002。針對(duì)Mini Cool Edge連接器，是否會(huì)有更大的應(yīng)用前景？

當(dāng)然。實(shí)際上，我認(rèn)為我們是業(yè)界第一家推出Mini Cool Edge的供應(yīng)商。

問

?

我們希望了解Nvidia的NVLink專有技術(shù)及其相關(guān)硬件平臺(tái)DGX-2。它被稱為比PCIe速度更快且更具可擴(kuò)展性的替代方案。鑒于此，您是否認(rèn)為NVLink能夠?qū)崿F(xiàn)顛覆性增長(zhǎng)并超過PCIe？還是會(huì)與PCIe共存？

我認(rèn)為它將與PCIe及其緩存一致性變體CXL共存。如果關(guān)注這些年的技術(shù)發(fā)展軌跡，每當(dāng)有新技術(shù)出現(xiàn)時(shí)，它就像一個(gè)受控的混沌模型，每個(gè)人都知道應(yīng)當(dāng)如何采用這項(xiàng)新技術(shù)。因此，每個(gè)人都會(huì)有自己的標(biāo)準(zhǔn)和自己的接口。針對(duì)AI/ML領(lǐng)域，我們還處于原始階段，對(duì)吧？我們?nèi)栽谔剿髦С诌@些技術(shù)的理想方式，以及應(yīng)當(dāng)如何為其建立標(biāo)準(zhǔn)。所以這項(xiàng)工作仍在持續(xù)推進(jìn)中。請(qǐng)記住，AI/ML的實(shí)際應(yīng)用還只有八年，而我們?cè)诓坏轿迥甑臅r(shí)間里就從零發(fā)展到大規(guī)模部署，真的很令人不可思議！

問

?

感謝您分享這些獨(dú)到見解。您能否介紹一下安費(fèi)諾在NVLink技術(shù)領(lǐng)域推出的一些最重要的連接器？

好的。我們從很早就與NVLink建立了合作關(guān)系。安費(fèi)諾最開始創(chuàng)建了符合SFF標(biāo)準(zhǔn)的SlimSAS互連系統(tǒng)。然后，NVLink使用了Meg-Array，這是我們推出的一款高性能夾層連接器。再然后使用了ExaMAX背板連接器系統(tǒng)。他們還評(píng)估了ExaMAX電纜，可與QSFP搭配使用，現(xiàn)已發(fā)展至OSFP。下一代將使用DensiLink轉(zhuǎn)OSFP。而現(xiàn)在，他們正在評(píng)估Paladin?HD。因此，安費(fèi)諾的幾乎每一款高速接口都已經(jīng)或正在接受英偉達(dá)的評(píng)估。這真是太神奇了。

問

?

就DensiLink而言，它最具吸引力、最突出的特點(diǎn)是什么？

從圖8中可以看到，這僅僅是因?yàn)榭梢栽谛酒蠈?shí)現(xiàn)足夠的帶寬。每平方英寸的密度和帶寬是AI技術(shù)的一個(gè)重要優(yōu)先事項(xiàng)。

問

?

AI的未來發(fā)展對(duì)安費(fèi)諾有哪些影響？

AI架構(gòu)的出現(xiàn)還只有十年，我們將在未來幾十年中見證AI應(yīng)用的不斷成熟和發(fā)展。同樣，網(wǎng)絡(luò)、服務(wù)器和其他數(shù)據(jù)電信應(yīng)用也將進(jìn)入高速發(fā)展階段。這些新興技術(shù)用了二三十年才真正投入大規(guī)模應(yīng)用，并最終成為了業(yè)界標(biāo)準(zhǔn)。AI的挑戰(zhàn)在于，其發(fā)展完全依賴于越來越龐大的互連系統(tǒng)。在未來的技術(shù)發(fā)展趨勢(shì)中，我們顯然還需要克服許多互連挑戰(zhàn)。但互連行業(yè)的未來是光明的。?

編輯：黃飛