91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

PCIe 6.0元年,AI與HPC迎來(lái)新速度

E4Life ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚(yáng) ? 2024-01-31 09:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))2022年1月,PCI-SIG發(fā)布了PCIe 6.0規(guī)范,正式拉開(kāi)了接口帶寬大幅升級(jí)的序幕。然而,在規(guī)范公布的兩年時(shí)間里,也已經(jīng)更新了6.0.1和6.1版本,PCIe 6.0似乎在設(shè)計(jì)層面上已經(jīng)完善了。但我們這期間并沒(méi)有看到PCIe 6.0產(chǎn)品的實(shí)際落地,甚至PCIe 5.0產(chǎn)品只是在消費(fèi)級(jí)產(chǎn)品小批量落地而已。而在今年三月,根據(jù)PCI-SGI的預(yù)測(cè),PCIe 6.0的硬件終于快要面世。

AI/ML、HPC和云端圖形負(fù)載渴求的翻倍帶寬

作為從服務(wù)器與PC起家的接口,PCIe近幾年已經(jīng)開(kāi)始輻射到以數(shù)據(jù)為核心的應(yīng)用中去,比如IoT、汽車和醫(yī)療電子等。從PCIe 3.0開(kāi)始,每一代接口標(biāo)準(zhǔn)規(guī)范都會(huì)為速率帶來(lái)翻倍的提升,PCIe 6.0更是將速率提升至64GT/s,x16單向帶寬拔高至256GB/s。

這樣的速率或許在IoT應(yīng)用中顯得有些多余,但在時(shí)下大熱的AI/ML應(yīng)用中,可以說(shuō)是大幅提高計(jì)算效率的殺手锏。要知道目前爆火的生成式AI應(yīng)用ChatGPT等,可謂受盡了大量同時(shí)訪問(wèn)與需求的困擾,即便H100的帶寬再高,在PCIe 5.0下依然計(jì)算效率受限,得靠NVLink才能突破限制。

目前的數(shù)據(jù)中心,尤其是其中的AI服務(wù)器,已經(jīng)成了帶寬無(wú)底洞。何況對(duì)于處理AI/ML訓(xùn)練模型來(lái)說(shuō),以快制勝可以說(shuō)是一條市場(chǎng)鐵則。更快的帶寬意味著生成式AI的并發(fā)響應(yīng)更快,給到更短的文本、圖形生成時(shí)間,從而進(jìn)一步提升用戶體驗(yàn)。而對(duì)于大部分托管/租用服務(wù)器的應(yīng)用開(kāi)發(fā)者來(lái)說(shuō),這也意味著運(yùn)營(yíng)成本大幅降低。

HPC也不例外,在長(zhǎng)時(shí)間運(yùn)轉(zhuǎn)的HPC服務(wù)器中,帶寬就意味著計(jì)算效率,尤其是量子力學(xué)、分子動(dòng)力學(xué)所用到的軟件,所需內(nèi)存帶寬更高。如果沒(méi)有足夠的帶寬,就只能分節(jié)點(diǎn)來(lái)減小不同進(jìn)程之間的帶寬競(jìng)爭(zhēng)。最后一大痛點(diǎn)是云游戲帶來(lái)的,對(duì)于這種需要多并發(fā)高圖形負(fù)載的運(yùn)用而言,帶寬就決定了云游戲的并發(fā)數(shù)以及圖形質(zhì)量。

AI/ML會(huì)加速PCIe 6.0的落地嗎

從PCIe的發(fā)展歷史來(lái)看,平均3到4年就會(huì)正式推出新的規(guī)范,只有從3.0到4.0經(jīng)歷了7年的漫長(zhǎng)的時(shí)間,這也是因?yàn)楸藭r(shí)的PCIe 3.0已經(jīng)算是超前的標(biāo)準(zhǔn),直到2015年后,全球數(shù)據(jù)流量進(jìn)入爆發(fā)期。此后從4.0演進(jìn)至5.0花了2年時(shí)間,從5.0演進(jìn)至6.0花了三年時(shí)間。據(jù)推測(cè),PCIe 7.0規(guī)范將在2025年正式推出。

然而我們也發(fā)現(xiàn),基于新標(biāo)準(zhǔn)的PCIe產(chǎn)品在落地速度上并沒(méi)有那么快。往往最先落地的是AI加速器、SSD等設(shè)備,畢竟本地處理速度再快也要網(wǎng)絡(luò)速度跟上才行。就拿還未實(shí)現(xiàn)的800G以太網(wǎng)為例,其所需要的單向帶寬也就是100GB/s,正好在PCIe 6.0的帶寬覆蓋范圍內(nèi)。

所以即便有著AI/ML的推進(jìn),今年應(yīng)該只會(huì)有少數(shù)PCIe 6.0產(chǎn)品能夠落地,且落地場(chǎng)景還是集中在數(shù)據(jù)中心領(lǐng)域,且先一步用于AI服務(wù)器上,這點(diǎn)從PCIe 6.0控制器IP、服務(wù)器CPU IP廠商的動(dòng)向上也可以看出。

寫(xiě)在最后

PCIe 6.0作為目前最先進(jìn)的接口標(biāo)準(zhǔn)之一,注定會(huì)為下一輪計(jì)算、存儲(chǔ)技術(shù)的創(chuàng)新帶來(lái)設(shè)計(jì)便利。但我們也應(yīng)該實(shí)時(shí)關(guān)注市場(chǎng)需求,過(guò)去的PCIe能夠維持主流接口的地位,正是靠的聯(lián)合硬件廠商穩(wěn)步推進(jìn)市場(chǎng)需求,這個(gè)策略在AI時(shí)代依舊通用。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 接口
    +關(guān)注

    關(guān)注

    33

    文章

    9518

    瀏覽量

    156996
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39707

    瀏覽量

    301302
  • PCIe
    +關(guān)注

    關(guān)注

    16

    文章

    1459

    瀏覽量

    88377
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    如何突破AI存儲(chǔ)墻?深度解析ONFI 6.0高速接口與Chiplet解耦架構(gòu)

    1. 行業(yè)核心痛點(diǎn):AI“存儲(chǔ)墻”危機(jī)在大模型訓(xùn)練與推理場(chǎng)景中,算力演進(jìn)速度遠(yuǎn)超存儲(chǔ)帶寬,計(jì)算與存儲(chǔ)之間的性能鴻溝(存儲(chǔ)墻)已成為限制系統(tǒng)能效的關(guān)鍵瓶頸。? Scale-up需求:?jiǎn)喂?jié)點(diǎn)內(nèi)需要極高
    發(fā)表于 01-29 17:32

    AI眼鏡:從“元年”爆發(fā)到邁向主流?

    2025被譽(yù)為“AI眼鏡元年”,市場(chǎng)迎來(lái)爆發(fā)式增長(zhǎng)。這與近期CES展上智能眼鏡的火熱相呼應(yīng),數(shù)據(jù)顯示,2025Q3中國(guó)智能眼鏡出貨量同比
    的頭像 發(fā)表于 01-26 11:09 ?353次閱讀
    <b class='flag-5'>AI</b>眼鏡:從“<b class='flag-5'>元年</b>”爆發(fā)到邁向主流?

    解碼邊緣智能元年:四大核心要素引領(lǐng)人工智能進(jìn)化新方向

    在以人工智能(AI)和機(jī)器學(xué)習(xí)(ML)技術(shù)為核心動(dòng)力的第四次工業(yè)革命快速推進(jìn)之際,諸多新技術(shù)、新應(yīng)用將在2026進(jìn)入我們生活和工作,為此北京華興萬(wàn)邦管理咨詢有限公司將推出“26元年系列觀察”報(bào)告
    的頭像 發(fā)表于 01-22 17:24 ?985次閱讀
    解碼邊緣智能<b class='flag-5'>元年</b>:四大核心要素引領(lǐng)人工智能進(jìn)化新方向

    PCIe協(xié)議分析儀的核心功能與工作原理

    當(dāng) AI 數(shù)據(jù)中心的算力需求呈指數(shù)級(jí)爆發(fā),PCIe 6.0 已然成為那條不可或缺的“高速公路”。但你是否想過(guò),當(dāng)雙向帶寬狂飆至 512 GB/s(PCIe 7.0 規(guī)范),信號(hào)傳輸?shù)拿?/div>
    的頭像 發(fā)表于 12-10 09:40 ?3764次閱讀
    <b class='flag-5'>PCIe</b>協(xié)議分析儀的核心功能與工作原理

    AI眼鏡元年殺瘋了!4家芯片大廠SoC大戰(zhàn),誰(shuí)是狠角色?

    2025是智能眼鏡市場(chǎng)的爆發(fā)元年,全球出貨量將突破1400萬(wàn)臺(tái),中國(guó)市場(chǎng)增速超120%。AI+拍攝眼鏡成為主流,運(yùn)動(dòng)拍攝類AI眼鏡成為新熱點(diǎn),AI
    的頭像 發(fā)表于 10-31 00:17 ?1.8w次閱讀
    <b class='flag-5'>AI</b>眼鏡<b class='flag-5'>元年</b>殺瘋了!4家芯片大廠SoC大戰(zhàn),誰(shuí)是狠角色?

    Microchip推出下一代Switchtec Gen 6 PCIe交換芯片

    隨著人工智能(AI)工作負(fù)載和高性能計(jì)算(HPC)應(yīng)用對(duì)數(shù)據(jù)傳輸速度與低延遲的需求持續(xù)激增,Microchip Technology Inc.(微芯科技公司)宣布推出下一代Switchtec Gen 6
    的頭像 發(fā)表于 10-18 11:12 ?1723次閱讀

    PCIe 6.0 SSD主控芯片狂飆!PCIe 7.0規(guī)范到來(lái)!

    ? 電子發(fā)燒友網(wǎng)綜合報(bào)道,早在20221月,PCI-SIG 組織正式發(fā)布了 PCIe 6.0 標(biāo)準(zhǔn),與 PCIe 5.0 相比帶寬再次翻倍,達(dá)到64 GT / s。 ?
    的頭像 發(fā)表于 09-07 05:41 ?8272次閱讀
    <b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b> SSD主控芯片狂飆!<b class='flag-5'>PCIe</b> 7.0規(guī)范到來(lái)!

    PCIe 7.0 Samtec已為您準(zhǔn)備好N種互連解決方案

    摘要前言 今年4月,PCIe 7.0 0.9 版本已向 PCI-SIG成員 開(kāi)放。 PCIe 7.0相比PCIe 6.0 帶寬提升一倍 ,原始比特率達(dá)到 128 GT/s 。
    的頭像 發(fā)表于 09-04 11:38 ?1700次閱讀
    <b class='flag-5'>PCIe</b> 7.0   Samtec已為您準(zhǔn)備好N種互連解決方案

    曙光存儲(chǔ)超級(jí)隧道技術(shù)助力應(yīng)對(duì)PCIe 6.0時(shí)代

    8月29日,聚焦“智存·智算·智能”的第二屆CCF中國(guó)存儲(chǔ)大會(huì)在武漢隆重召開(kāi)。會(huì)上,曙光存儲(chǔ)副總裁郭照斌宣布,“超級(jí)隧道”技術(shù)能更好的應(yīng)對(duì)PCIe 6.0時(shí)代,為下一代國(guó)產(chǎn)芯片效能釋放提供加速引擎。
    的頭像 發(fā)表于 09-03 14:01 ?567次閱讀

    PCIe協(xié)議分析儀能測(cè)試哪些設(shè)備?

    場(chǎng)景:監(jiān)測(cè)GPU與主機(jī)之間的PCIe通信,分析數(shù)據(jù)傳輸效率、延遲和帶寬利用率。 應(yīng)用價(jià)值:優(yōu)化大規(guī)模AI訓(xùn)練任務(wù)的數(shù)據(jù)加載和模型參數(shù)同步,例如在多GPU系統(tǒng)中測(cè)試PCIe交換機(jī)的性能和穩(wěn)定性。 FPGA
    發(fā)表于 07-25 14:09

    攜手Synopsys與Keysight C位出道 | Samtec PCIe 6.0 Demo

    新思科技的高級(jí)應(yīng)用工程師雷天語(yǔ)(圖中),與Samtec資深FAE胡亞捷(圖右),一同參與了本次PCIe 6.0 連接性能的Demo演示。 他
    發(fā)表于 05-08 14:07 ?4129次閱讀

    Diodes公司PCIe 6.0時(shí)鐘緩沖器介紹

    PI6CB3320xxA 系列為 PCIe 6.0 時(shí)鐘緩沖器,具有 20、16、13、12、8 和 4 通道低功耗 HCSL 輸出,具有 85Ω或 100Ω輸出阻抗的片上終端 (On-Chip Termination)。
    的頭像 發(fā)表于 04-10 15:49 ?1125次閱讀
    Diodes公司<b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>時(shí)鐘緩沖器介紹

    PCIe 7.0最終版草案發(fā)布,傳輸速率128 GT/s,PCIe 6.0加速商業(yè)化

    PCIe 7.0最終版草案發(fā)布,傳輸速率128 GT/s,PCIe 6.0加速商業(yè)化 ? 電子發(fā)燒友網(wǎng)綜合報(bào)道,近日,PCI-SIG 組織公布了 PCI Express 7.0 規(guī)范的0.9 版草案
    發(fā)表于 03-29 00:07 ?1170次閱讀

    是德科技PCIe 6.0發(fā)射機(jī)合規(guī)性測(cè)試解決方案

    隨著 PCIe 6.0 標(biāo)準(zhǔn)剛剛進(jìn)入市場(chǎng),PCI-SIG 組織已著手推動(dòng)下一代標(biāo)準(zhǔn)——PCIe 7.0,預(yù)計(jì)將在 2025 正式發(fā)布,持該標(biāo)準(zhǔn)的設(shè)備預(yù)計(jì)將在 2026
    的頭像 發(fā)表于 03-06 11:29 ?1723次閱讀
    是德科技<b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>發(fā)射機(jī)合規(guī)性測(cè)試解決方案