91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

自研服務(wù)器芯片或許沒有那么大優(yōu)勢

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚 ? 2023-04-06 01:57 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/周凱揚)自研芯片在當下似乎已經(jīng)成了一種潮流,無論是消費電子廠商、互聯(lián)網(wǎng)公司還是汽車廠商,都在拿自研芯片做文章。作為時刻都在與計算打交道的云端,自然也參與其中,甚至是先進工藝自研芯片的主力軍。

自研芯片能省下多少錢?

早在芯片產(chǎn)業(yè)有布局,或者以收購來掌握芯片設(shè)計實力的云服務(wù)廠商,幾乎都選擇了自研服務(wù)器芯片這條路線,比如亞馬遜、谷歌、阿里巴巴等等。自研芯片的范圍也從網(wǎng)絡(luò)芯片到通用計算的CPU,再到用于AI計算的ASIC芯片。

亞馬遜就靠著自研芯片省下了一大筆成本,這也是其他云服務(wù)廠商目前都沒能復(fù)制的成功。首先自研芯片通過架構(gòu)上的創(chuàng)新,為其定制化實例提供了更高的性能,比如Nitro芯片靠卸載任務(wù)可以多省出兩個CPU內(nèi)核;其次,對于某些特定的工作負載來說,自研芯片帶來了更容易把握的戰(zhàn)略控制以及硬件鎖定;最后,自然也省去了找第三方fabless設(shè)計公司的成本。

考慮到云服務(wù)廠商在硬件投入上的規(guī)模,以及亞馬遜作為全球第一大云服務(wù)廠商的體量,其中省下的成本還是相當龐大的。這也是亞馬遜走自研芯片可行的原因,其他云服務(wù)廠商或許能通過自研把設(shè)計成本壓下去,但制造成本絕對沒法像亞馬遜一樣壓這么低,這也是為何AWS過去能做到頻繁降價。

AI時代下自研芯片優(yōu)勢有,但不多

亞馬遜在收購后,接連推出了Trainium和Inferentia這兩大訓(xùn)練和推理加速器,并將其集成到自己的云端實例中去,以優(yōu)異的性能為客戶提供高性價比的AI硬件方案。但這似乎并沒有為其在最近的AI熱潮中帶來優(yōu)勢,反倒是微軟憑借英偉達GPU率先以ChatGPT開啟了這場惡戰(zhàn),谷歌的Bard也緊隨其后。

亞馬遜則選擇了與Hugging Face合作,作為其首選云供應(yīng)商,用戶可以借助AWS上的先進工具,比如SageMaker托管服務(wù),以及Trainium和Inferentia硬件,去訓(xùn)練、微調(diào)和部署模型,從而為社區(qū)創(chuàng)造更加開放易用的AI。

但事實上是,這一合作激起的水花很快就被淹沒在了如傾盆大雨般落地的AI應(yīng)用中。而且對于Hugging Face來說,他們想要打造的是開放式的生成式AI模型,也就是說其他廠商也都能從中獲益,也就是兩家共同提到的機器學(xué)習(xí)民主化。

況且在部署上,早在與亞馬遜合作之前,Hugging Face就已經(jīng)在2022年與微軟Azure達成合作,在Azure的ML終結(jié)點上部署Hugging Face的機器學(xué)習(xí)推理服務(wù)。所以這次合作即便充分利用了亞馬遜的自研AI芯片,但給其帶來的優(yōu)勢并不算大。無論是在性能還是在軟件生態(tài)上,現(xiàn)有的自研芯片都存在如鯁在喉的地方,而這不僅局限于亞馬遜這樣的大廠,不少初創(chuàng)AI芯片公司也都或多或少面臨這樣的困境。

結(jié)語

其實自研芯片也并非真的毫無靈活性可言,比如亞馬遜的Graviton和阿里的倚天710,雖說是自研芯片,但用到的畢竟還是Arm的Neoverse公版方案,還有不少第三方方案也是如此,比如英偉達的Grace、Ampere Computing的Altra等等。

這樣一來其實開發(fā)靈活性依然很高,比如英偉達為了給Grace做鋪墊,也對同類產(chǎn)品的軟件棧提供了支持。比如英偉達的HPC SDK全面支持AWS的Graviton 3,也支持對SVE和NEON的自動矢量化。而英偉達推出的Arm HPC開發(fā)套件,也是由Ampere的Altra Q80-30 CPU與A100 GPU組合打造的,與Grace芯片共用同一套軟件環(huán)境。

只不過在AI領(lǐng)域,這樣的自研路線優(yōu)勢會更小一點,畢竟現(xiàn)在AI模型與算法發(fā)展迅速,自研GPU有著各種難以突破的專利壁壘,自研ASIC又存在迭代適應(yīng)和軟件生態(tài)移植的問題。而這對于云服務(wù)廠商這種為客戶賦能更快產(chǎn)品上市速度的企業(yè)來說,或許在AI仍在快速演進的當下,GPU會是更優(yōu)解,這也是云服務(wù)廠商即便選擇了自研AI芯片,主打的卻依然是GPU實例的原因。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    14

    文章

    10253

    瀏覽量

    91482
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    賽思分享時鐘服務(wù)器的解決方案及其優(yōu)勢

    隨著科技的不斷發(fā)展,各種應(yīng)用場景對于時間同步和精確性的要求也越來越高。在這種情況下,時鐘服務(wù)器應(yīng)運而生,為各行各業(yè)提供了高效、穩(wěn)定、可靠的時間同步解決方案。本文將詳細介紹時鐘服務(wù)器的解決方案及其優(yōu)勢
    的頭像 發(fā)表于 01-06 17:35 ?5640次閱讀
    賽思分享時鐘<b class='flag-5'>服務(wù)器</b>的解決方案及其<b class='flag-5'>優(yōu)勢</b>

    NTP自動校時服務(wù)器的核心優(yōu)勢介紹

    NTP自動校時服務(wù)器是一種基于網(wǎng)絡(luò)的時間同步設(shè)備,它通過與高精度時間源(如GPS、原子鐘或國家授時中心)進行通信,獲取準確的時間信息,并將其分發(fā)到網(wǎng)絡(luò)中的各個設(shè)備。其核心優(yōu)勢在于能夠?qū)崿F(xiàn)毫秒級甚至
    的頭像 發(fā)表于 11-11 15:28 ?380次閱讀
    NTP自動校時<b class='flag-5'>服務(wù)器</b>的核心<b class='flag-5'>優(yōu)勢</b>介紹

    香港服務(wù)器支持Docker和Kubernetes嗎?

    和Kubernetes的部署與運行? 答案是肯定的,而且香港服務(wù)器由于其獨特的優(yōu)勢,往往是部署容器化應(yīng)用的絕佳選擇。 下面,我們將從技術(shù)支持、網(wǎng)絡(luò)優(yōu)勢、實踐指南和注意事項等方面,全面解析香港
    的頭像 發(fā)表于 10-21 15:47 ?680次閱讀

    什么是服務(wù)器虛擬化?一文讀懂原理、優(yōu)勢與實戰(zhàn)部署

    什么是服務(wù)器虛擬化?當企業(yè)服務(wù)器CPU利用率長期低于15%,卻仍需不斷采購新硬件應(yīng)對業(yè)務(wù)增長時,一場基礎(chǔ)設(shè)施領(lǐng)域的革命早已悄然發(fā)生——服務(wù)器虛擬化。這項技術(shù)通過將物理服務(wù)器劃分為多個獨
    的頭像 發(fā)表于 08-25 10:52 ?1189次閱讀
    什么是<b class='flag-5'>服務(wù)器</b>虛擬化?一文讀懂原理、<b class='flag-5'>優(yōu)勢</b>與實戰(zhàn)部署

    Arm CEO:公司正在芯片

    據(jù)外媒路透社報道,Arm CEO Rene Haas透露,Arm正在投資開發(fā)自有芯片,并計劃將部分利潤投資于制造自己的芯片和其他組件。與之對應(yīng)的是Arm預(yù)測的下一財季經(jīng)營業(yè)績也會因為
    的頭像 發(fā)表于 07-31 11:49 ?629次閱讀

    歐洲服務(wù)器免費ip地址怎么獲?。?歐洲服務(wù)器 #免費IP地址 #服務(wù)器

    服務(wù)器
    jf_57681485
    發(fā)布于 :2025年06月13日 11:15:04

    高端芯片服務(wù)器芯片傳來好消息!

    電子發(fā)燒友網(wǎng)報道(文/黃晶晶)當前,處理已經(jīng)跨過了能用的階段,逐漸走向好用,但無論是消費級還是服務(wù)器級都面臨著如何在性能上接近國外高端產(chǎn)品,以及生態(tài)上如何更加完善的問題。國內(nèi)廠商
    的頭像 發(fā)表于 05-18 09:25 ?7988次閱讀
    高端<b class='flag-5'>芯片</b><b class='flag-5'>自</b><b class='flag-5'>研</b>,<b class='flag-5'>服務(wù)器</b><b class='flag-5'>芯片</b>傳來好消息!

    服務(wù)器數(shù)據(jù)恢復(fù)—服務(wù)器部分數(shù)據(jù)目錄項被破壞的數(shù)據(jù)恢復(fù)案例

    一臺安裝linux系統(tǒng)的服務(wù)器意外斷電。管理員重啟服務(wù)器后進行檢測,發(fā)現(xiàn)服務(wù)器上部分文件丟失。管理員沒有進行任何操作,直接將服務(wù)器正常關(guān)機并
    的頭像 發(fā)表于 05-08 15:16 ?507次閱讀

    國外bgp服務(wù)器多少錢?# 服務(wù)器

    服務(wù)器
    jf_57681485
    發(fā)布于 :2025年04月24日 14:19:00

    RAKsmart服務(wù)器SEO優(yōu)化優(yōu)勢分析

    在RAKsmart服務(wù)器上搭建SEO網(wǎng)站,可以借助其基礎(chǔ)設(shè)施和服務(wù)特性,從技術(shù)層面優(yōu)化搜索引擎排名。以下是具體優(yōu)勢及分析,主機推薦小編為您整理發(fā)布RAKsmart服務(wù)器SEO優(yōu)化
    的頭像 發(fā)表于 04-22 10:12 ?664次閱讀

    新加坡服務(wù)器延遲大嗎?真相在這里#新加坡服務(wù)器 #服務(wù)器

    服務(wù)器
    jf_57681485
    發(fā)布于 :2025年04月18日 13:48:50

    NTP校時服務(wù)器 時鐘同步服務(wù)器

    服務(wù)器
    jf_75250307
    發(fā)布于 :2025年03月19日 20:56:34

    利用RAKsmart服務(wù)器托管AI模型訓(xùn)練的優(yōu)勢

    AI模型訓(xùn)練需要強大的計算資源、高效的存儲和穩(wěn)定的網(wǎng)絡(luò)支持,這對服務(wù)器的性能提出了較高要求。而RAKsmart服務(wù)器憑借其核心優(yōu)勢,成為托管AI模型訓(xùn)練的理想選擇。下面,AI部落小編為您具體分享。
    的頭像 發(fā)表于 03-18 10:08 ?687次閱讀