91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI算力與能耗兼具,Supermicro梁見后暢談服務(wù)器的綠色計算

21克888 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2023-05-31 18:30 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著生成式AI人工智能席卷全球,服務(wù)器市場將作為產(chǎn)業(yè)先鋒迎來巨大的發(fā)展機(jī)會。在日前舉辦的臺北電腦展上,Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)接受電子發(fā)燒友網(wǎng)等媒體采訪時表示,Supermicro為云端、AI/ML、存儲和5G/智能邊緣應(yīng)用的全方位IT解決方案,我們正在推進(jìn)關(guān)鍵領(lǐng)域的技術(shù)發(fā)展,包括產(chǎn)品設(shè)計、綠色計算、制造和機(jī)架級集成,以助力企業(yè)及組織快速提高生產(chǎn)效率并降低能耗。

多款服務(wù)器產(chǎn)品助力人工智能


Supermicro擁有最全面的產(chǎn)品組合,可以為人工智能工作負(fù)載和其他垂直領(lǐng)域提供大力支持。其創(chuàng)新型系統(tǒng)包括基于第四代Intel Xeon可擴(kuò)展處理器和第四代AMD EPYC 處理器的單插槽和雙插槽機(jī)架安裝系統(tǒng),提供1U、2U、4U、5U和8U規(guī)格,并支持1到10 GPU。此外還包括在8U機(jī)箱中支持20個NVIDIA H100 GPU的密度優(yōu)化型SuperBlade系統(tǒng),以及專門針對物聯(lián)網(wǎng)和邊緣環(huán)境設(shè)計的SuperEdge系統(tǒng)。全新發(fā)布的E3.S Petascale存儲系統(tǒng)在利用超大規(guī)模的人工智能數(shù)據(jù)集進(jìn)行訓(xùn)練時,表現(xiàn)出了卓越的性能、容量、吞吐量和耐用性,同時還提供出色的能效。


基于NVIDIA Grace CPU超級芯片的新產(chǎn)品系列也將很快上市。這些新服務(wù)器均包含144個核心,雙CPU及900 GB/s 一致性接口,可運(yùn)行高響應(yīng)度的人工智能應(yīng)用程序和需要極低延遲響應(yīng)的應(yīng)用程序。此外,CPU以500W TDP的速度運(yùn)行,該系統(tǒng)將為云原生工作負(fù)載和下一代人工智能應(yīng)用降低能耗。

三大優(yōu)勢穩(wěn)固服務(wù)器的綠色高效交付


在采訪中當(dāng)問及Supermicro擁有超越行業(yè)標(biāo)準(zhǔn)的亮眼成績,取得巨大成功的原因,以及抓住了哪些機(jī)會等話題時,梁見后談到了成功的三點(diǎn)因素。

一是,模塊化解決方案為高效服務(wù)客戶提供了巨大的助力,它能夠更快地把產(chǎn)品交付給客戶,減少等候時間,提高服務(wù)效率。模塊化的解決方案一直都是我們非常重要的成功驅(qū)動因素。

其二,綠色計算。從18年前,Supermicro就開始布局綠色計算解決方案,幫助客戶進(jìn)一步減少自己的電力成本以及能源消耗。當(dāng)前,通過Supermicro的解決方案,數(shù)據(jù)中心的電力消耗可以降低達(dá)30%,讓整體成本獲得大幅下降。

他表示綠色計算已經(jīng)成為SupermicroDNA的一部分?!安还苁俏覀兯械漠a(chǎn)品設(shè)計還是電路等等,都會去優(yōu)化它的能源消耗,提高它的能耗效率,可以極大幫助我們的系統(tǒng)節(jié)省5-10%的能源消耗。而在熱管理子系統(tǒng)當(dāng)中,我們也以最優(yōu)化的設(shè)計讓冷卻設(shè)計本身就具備更低的排熱和散熱的需求,以及采用了很多新的材料來降低散熱的能耗需求。我們將會延續(xù)我們的綠色計算DNA,做好這些散熱優(yōu)化,以幫助我們的客戶降低碳足跡和碳排放?!彼f道。

目前,數(shù)據(jù)中心消耗的電力占到了全球電力需求的1-1.5%,因此綠色計算對于數(shù)據(jù)中心至關(guān)重要。Supermicro完整的機(jī)架級液冷解決方案可以大幅降低對傳統(tǒng)冷卻方法的需求。通過冗余和熱插拔電源和泵,機(jī)架上的所有高性能AI和HPC優(yōu)化服務(wù)器都能夠得到有效冷卻,不懼電源或泵發(fā)生任何故障。該解決方案還為CPU和GPU量身定制了冷板(Cold Plate),相較于傳統(tǒng)設(shè)計能夠更有效地去除熱量。如果數(shù)據(jù)中心利用Supermicro技術(shù)將其PUE降低至近1.0,不僅能節(jié)省高達(dá)100億美元的能源成本,并且相當(dāng)于減少建造30座化石燃料發(fā)電廠。

第三是機(jī)架級整體解決方案,有效減少客戶的等候時間。此前客戶需要自身進(jìn)行整合,現(xiàn)在得益于Supermicro的全機(jī)架級完整解決方案,客戶能夠即插即用,幫助客戶實(shí)現(xiàn)快速啟動,更好地實(shí)現(xiàn)業(yè)務(wù)的發(fā)展。

梁見后說,像ChatGPT以及其他很多的AI應(yīng)用場景下,我們能夠加速交付周期,這是非常關(guān)鍵的一點(diǎn)。傳統(tǒng)的交付周期,可能客戶需要花3個月/6 個月才能完成他們的部署,但是現(xiàn)在有了我們的系統(tǒng)級/機(jī)架級的液冷解決方案,所需要的交付周期短至2周。我們的Delta-Next支持正常的液冷/空氣冷卻,同時客戶一旦收到就能夠?qū)崿F(xiàn)即插即用,很多客戶都非常青睞這一技術(shù)。

他透露,Supermicro在不斷地增強(qiáng)投資,現(xiàn)在已經(jīng)可以每個月交付4000套機(jī)架級的解決方案。到今年年末,出貨量將會增加到5000套機(jī)架級的解決方案。

推動液冷應(yīng)用,看好下半年至明年的強(qiáng)勁增長


梁見后表示,液冷其實(shí)并不是一個新鮮的東西,存在已經(jīng)超過 30 多年了,但由于面臨成本挑戰(zhàn),一直沒有成為主流。而Supermicro會大力推廣液冷,一旦液冷方案在降低成本之后會帶來大規(guī)模應(yīng)用。Supermicro的Building Block解決方案就能夠很好應(yīng)用液體冷卻技術(shù)。“我們相信隨著技術(shù)的進(jìn)步,更多的客戶會選擇液冷,為此我們也在積極擴(kuò)張產(chǎn)能服務(wù)客戶。”

即便由于整體經(jīng)濟(jì)的增速減緩,服務(wù)器應(yīng)用端市場可能會稍微放緩,不過梁見后認(rèn)為通過對客戶訂單需求的預(yù)測來看,今年下半年包括明年都將繼續(xù)保持強(qiáng)勁的增長。為此Supermicro主要考量如何去更好地滿足增長的客戶需求。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    14

    文章

    10253

    瀏覽量

    91500
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39793

    瀏覽量

    301447
  • Supermicro
    +關(guān)注

    關(guān)注

    0

    文章

    35

    瀏覽量

    9696
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    “上天入海”之革命:“海風(fēng)直連”海底數(shù)據(jù)中心開啟綠色新紀(jì)元

    上海臨港外10公里的海面上,風(fēng)機(jī)葉片在海風(fēng)中緩緩轉(zhuǎn)動,產(chǎn)生的電力沿著專用電纜直抵海底深處一個圓筒形艙體,艙內(nèi)數(shù)千臺服務(wù)器正為AI大模型運(yùn)行提供。2026年2月初,全球首個“海風(fēng)直連
    的頭像 發(fā)表于 02-11 10:17 ?1758次閱讀
    “上天入?!敝?b class='flag-5'>算</b><b class='flag-5'>力</b>革命:“海風(fēng)直連”海底數(shù)據(jù)中心開啟<b class='flag-5'>綠色</b><b class='flag-5'>算</b><b class='flag-5'>力</b>新紀(jì)元

    高達(dá) 1570 TOPS!支持多硬盤的高服務(wù)器 CSB2-N10

    CSB2-N10服務(wù)器內(nèi)置10個分布式計算節(jié)點(diǎn),單節(jié)點(diǎn)可提供6-157TOPS,可選瑞芯微、能、NVIDIA等平臺。支持主流
    的頭像 發(fā)表于 01-06 16:33 ?488次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高達(dá) 1570 TOPS!支持多硬盤的高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b> CSB2-N10

    高達(dá) 1100 TOPS!內(nèi)置 Jetson AGX Orin 模組的高服務(wù)器

    CSB1-N4AGXOrin最高可配置4個NVIDIAJetsonAGXOrin(64GB)計算節(jié)點(diǎn),最高1100TOPS(INT8)。支持主流AI大模型的私有化部署、多種深度學(xué)習(xí)
    的頭像 發(fā)表于 12-17 16:31 ?584次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高達(dá) 1100 TOPS!內(nèi)置 Jetson AGX Orin 模組的高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>

    AI中心的能耗挑戰(zhàn):CM5A 2000 H01霍爾閉環(huán)電流傳感AI中心(AIDC)的應(yīng)用分析

    全球數(shù)據(jù)中心總用電量的20%以上。高功率GPU集群、液冷服務(wù)器等設(shè)備對供電系統(tǒng)的穩(wěn)定性和能效提出了極高要求:如何在保障供電穩(wěn)定性的同時,實(shí)現(xiàn)能耗的精細(xì)化管理?這一問
    的頭像 發(fā)表于 11-05 17:43 ?882次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>中心的<b class='flag-5'>能耗</b>挑戰(zhàn):CM5A 2000 H01霍爾閉環(huán)電流傳感<b class='flag-5'>器</b>在<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>中心(AIDC)的應(yīng)用分析

    覺醒 · AI共生——上海永銘電子2025AI服務(wù)器電容應(yīng)用專題會議圓滿落幕

    隨著人工智能浪潮席卷全球,AI正以前所未有的速度爆發(fā)式增長。在這場決定未來的技術(shù)競速中,穩(wěn)定、高效、可靠的電力供應(yīng)是基石的核心。而電
    的頭像 發(fā)表于 11-03 14:00 ?890次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>覺醒 · <b class='flag-5'>AI</b>共生——上海永銘電子2025<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>電容應(yīng)用專題會議圓滿落幕

    AI 服務(wù)器備用電源:高效、可靠與智能的未來保障

    運(yùn)行,更需在高效率、高可靠性和智能管理方面實(shí)現(xiàn)突破,成為支撐 AI 爆發(fā)的關(guān)鍵基礎(chǔ)設(shè)施。 AI 服務(wù)器對電源的迫切需求
    的頭像 發(fā)表于 10-09 02:38 ?5207次閱讀

    天波科普:超過30T的邊緣計算服務(wù)器可以做什么?

    網(wǎng)關(guān)的能力邊界,也涉及到高低。那么,目前邊緣計算服務(wù)器到多少算高呢?以廣東天波
    的頭像 發(fā)表于 09-28 11:18 ?679次閱讀
    天波科普:<b class='flag-5'>算</b><b class='flag-5'>力</b>超過30T的邊緣<b class='flag-5'>計算</b><b class='flag-5'>服務(wù)器</b>可以做什么?

    多達(dá) 48 個計算節(jié)點(diǎn)!Firefly 推出 CSC2-N48 AI 服務(wù)器

    Firefly最新推出CSC2-N48服務(wù)器,內(nèi)置48個分布式計算節(jié)點(diǎn),單節(jié)點(diǎn)可提供6TOPS-157TOPS
    的頭像 發(fā)表于 08-20 16:37 ?1606次閱讀
    多達(dá) 48 個<b class='flag-5'>計算</b>節(jié)點(diǎn)!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>

    服務(wù)器多少錢一臺?價格因素與選購指南

    入門級服務(wù)器可能只需幾千元,而高性能計算(HPC)或AI訓(xùn)練專用服務(wù)器則可能高達(dá)數(shù)十萬元。一般來說,中小型企業(yè)常用的
    的頭像 發(fā)表于 06-17 09:45 ?2495次閱讀

    RAKsmart服務(wù)器如何賦能AI開發(fā)與部署

    AI開發(fā)與部署的復(fù)雜性不僅體現(xiàn)在算法設(shè)計層面,更依賴于底層基礎(chǔ)設(shè)施的支撐能力。RAKsmart服務(wù)器憑借其高性能硬件架構(gòu)、靈活的資源調(diào)度能力以及面向AI場景的深度優(yōu)化,正在成為企業(yè)突破
    的頭像 發(fā)表于 04-30 09:22 ?790次閱讀

    AI原生架構(gòu)升級:RAKsmart服務(wù)器在超大規(guī)模模型訓(xùn)練中的突破

    近年來,隨著千億級參數(shù)模型的崛起,AI訓(xùn)練對的需求呈現(xiàn)指數(shù)級增長。傳統(tǒng)服務(wù)器架構(gòu)在應(yīng)對分布式訓(xùn)練、高并發(fā)計算和顯存優(yōu)化等場景時逐漸顯露瓶
    的頭像 發(fā)表于 04-24 09:27 ?792次閱讀

    智能服務(wù)器應(yīng)用領(lǐng)域

    智能服務(wù)器應(yīng)用領(lǐng)域 一、?金融行業(yè)? 智能風(fēng)控與投顧?:通過集群支撐AI模型訓(xùn)練,實(shí)現(xiàn)風(fēng)
    的頭像 發(fā)表于 04-21 09:09 ?1576次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>應(yīng)用領(lǐng)域

    RAKsmart服務(wù)器如何重塑AI高并發(fā)格局

    AI大模型參數(shù)量突破萬億級、實(shí)時推理需求激增的當(dāng)下,傳統(tǒng)服務(wù)器架構(gòu)的并發(fā)處理能力已逼近物理極限。RAKsmart通過“硬件重構(gòu)+軟件定義”的雙引擎創(chuàng)新,推出新一代AI服務(wù)器解決方案。
    的頭像 發(fā)表于 04-03 10:37 ?918次閱讀

    如何在RAKsmart服務(wù)器上實(shí)現(xiàn)企業(yè)AI模型部署

    AI模型的訓(xùn)練與部署需要強(qiáng)大的支持、穩(wěn)定的網(wǎng)絡(luò)環(huán)境和專業(yè)的技術(shù)管理。RAKsmart作為全球領(lǐng)先的服務(wù)器托管與云計算
    的頭像 發(fā)表于 03-27 09:46 ?940次閱讀

    DeepSeek推動AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓(xùn)練與推理任務(wù)對的需求持續(xù)攀升,直接推動了
    發(fā)表于 03-25 12:00