91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

云端算力芯片為什么是科技石油?

jf_C6sANWk1 ? 來源:阿寶1990 ? 2023-07-12 10:21 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在追逐智能化的道路上,云端算力芯片扮演著不可或缺的角色。其強大的計算能力和無限的潛力,推動著科技的創(chuàng)新和進步。隨著技術的不斷發(fā)展,我們有理由相信云端算力芯片將繼續(xù)引領人工智能的未來,為我們帶來更加智能、高效的世界。

自人類開采第一口油井開始,石油就深深融入進了人類生活的方方面面。小到鍋碗瓢盆芯片,大到飛機火箭航母,沒有哪個環(huán)節(jié)離得開石油的參與。如果說石油是工業(yè)的血液,電力與網(wǎng)絡是信息時代社會的骨架,那么算力就是AI時代構建萬物的基礎。

21世紀前后,人類逐漸從工業(yè)時代步入信息時代,當下AI時代的大門又再度緩緩開啟。2023年以來,以ChatGPT為首的生成式AI逐漸滲透到了各行各業(yè)中,有人說,這或許又是一個IPhone時刻。AI起舞,算力搭臺,算力,或者說是算力芯片就是AI時代的石油、電力與網(wǎng)絡。

算力從哪來?如何理解算力?國產(chǎn)云端算力芯片如今怎么樣了。今天,與非網(wǎng)邀請到了多位企業(yè)專家,共同探討AI時代下云端算力芯片發(fā)展的挑戰(zhàn)和機遇。

AI時代,算力有多重要

算力,其本質(zhì)就是計算能力,它可以反映芯片對信息數(shù)據(jù)的收集、處理與輸出能力。計算本質(zhì)上是一種抽象概念,加減乘數(shù)是計算,三角運算是計算,積分與微分也是計算。在如今的計算機時代,每一種復雜的計算都可以拆分成多個簡單的計算,現(xiàn)在通常用每秒鐘計算的浮點運算次數(shù)作為評價算力的指標。每秒計算1次就是1FLOPS。不過算力這個概念并不是芯片獨有的,我們?nèi)祟惖拇竽X也無時無刻不在進行著計算,從買菜購物到數(shù)學考試,從雞兔同籠到多元微分,計算貫穿了人類的一生。

放眼人類的發(fā)展歷史,人類對于計算的渴求就一直在進步。石器時代人類就開始結繩計數(shù),后來各類算籌、算盤等輔助計算技術誕生,讓人類擁有了更大規(guī)模的計算能力。如果這時算力能被計算出具體數(shù)值,那一根系滿繩結的繩子的算力會低于1FLOPS。

1946年,世界上第一臺計算機“埃尼阿克(ENIAC)”出現(xiàn),讓人類的計算能進一步提升,計算速度也進一步提升,其計算速度達到到了300FLOPS,也就是每秒鐘可以進行300次浮點運算,遠超當時任何人類與機械計算器的計算速度。

緊接著人類便進入到了集成電路大發(fā)展時代。1978年,英特爾推出了跨時代的8086芯片,它包含29000個晶體管,主頻達到4.77MHz,其算力也達到了700000 FLOPS以上。此后,集成電路產(chǎn)業(yè)飛速發(fā)展,至今已經(jīng)形成英特爾、AMD、英偉達三家爭霸,還有TI、ST、瑞薩MCU大廠緊隨其后,不同廠商不同種類的芯片用途五花八門,但其證明芯片性能的關鍵參數(shù)仍是“算力”。

不過,算力一詞用到頻率最高的領域仍舊是GPU。GPU起初是用來專門處理圖像的硬件,相比CPU,GPU具有更多計算核心,也更擅長進行并行計算。如今世界上單芯片算力頂峰是英偉達的Thor芯片,其算力已經(jīng)達到200TOPS。TOPS即tera operations per second,1TOPS代表該芯片可以每秒計算1×1012 次運算。

AI時代,算力已經(jīng)不僅是一項描述芯片計算能力的參數(shù),它更像是一種資源,和石油與電力一樣,成為信息時代不可或缺的重要一環(huán)。而算力之所以如此重要,在于它對于AI來說的必要性。

AI模型,本質(zhì)上是算力與算法的結合。模型的“大”與“小”,其實就是算法規(guī)模量的區(qū)別,模型輸出的精度也與訓練AI的數(shù)據(jù)量呈正相關,然而計算機處理越大的數(shù)據(jù)量,它所需要的算力也呈指數(shù)上升。其原因是因為AI算法可以理解為超大規(guī)模的矩陣運算,矩陣的維度就是數(shù)據(jù)特征數(shù)量,也就是數(shù)據(jù)的參數(shù)量。矩陣維度越多,參數(shù)越多,模型越復雜,它輸出的數(shù)據(jù)準確度越高,但所需求的算力也就越大。AI時代,算力已經(jīng)不僅是一項描述芯片計算能力的參數(shù),它更像是一種資源,和石油與電力一樣,成為信息時代不可或缺的重要一環(huán)。AI時代,也可以說是算力時代。

算力芯片也可以分為云端與終端兩種。云端算力芯片通常負責訓練和推理兩種場景,可在不要求延時與高網(wǎng)絡帶寬下運行幾乎全流程的AI算法。終端算力芯片通常用于自動駕駛智能家居、智慧城市等AIOT場景中。通常來說,云算力芯片的難度更高,成本也更高,還需要用戶負擔額外的網(wǎng)絡通信費用,那是不是云端就不重要了呢?

如果沒有云計算,企業(yè)在需要算力場景的時候就要搭建私有云,也就是自己的服務器。而為了應對更加復雜的應用,支撐更加穩(wěn)定的計算環(huán)境,企業(yè)就必須不停的升級采購新設備,例如服務器、存儲、帶寬等,還需要組建完整的運維團隊來保證這些設備的正常運行。綜合計算下來,布置企業(yè)自身的算力中心花銷巨大。這對于中小微企業(yè)來說更是一筆難以承受的支出。

而云計算可以一勞永逸的解決上述問題,相當于多個企業(yè)共享硬件設施,只有當企業(yè)需要算力的時候才會購買,并不需要一直持有大量空閑算力。簡單來說,云計算就相當于家庭用電,只有打開電燈,電表才會計數(shù)。

總的來說,云端+邊端能夠滿足AI時代下所有應用場景的要求。如今AI大模型不斷涌現(xiàn),同時滿足訓練與推理,還具有性價比優(yōu)勢的云算力芯片已經(jīng)成為AI大亂斗背景下的必爭之地。但在高需求刺激之下,極速涌入云端算力芯片的資本還面臨著更加嚴峻的問題,高門檻。

挑戰(zhàn)與變局

過去,云端算力芯片僅受到部分企業(yè)關注。普通人對于它的理解往往僅限于大型服務器,云計算,神威太湖之光等名詞上。2023年以來,ChatGPT的橫空出世讓普通人對AI的了解更進一步。AI大模型爆火后,給全球AI芯片市場帶來了哪些影響?

摩爾線程專家認為,大模型的火熱對芯片市場的影響,最直接的就是對算力基礎設施的需求猛增,GPU作為大模型背后的關鍵算力基礎設施,尤其受到追捧。與此同時,大模型全新的算法方式對傳統(tǒng)的芯片架構提出了挑戰(zhàn)。

那,挑戰(zhàn)是什么呢?

隨著OpenAI的一聲炮響,全世界都被轟開了AI世界的大門。不過大規(guī)模計算所需要的高算力芯片挑戰(zhàn)頗多。摩爾線程專家認為挑戰(zhàn)主要來自芯片的通用性、功耗墻與顯存墻上。

奇異摩爾聯(lián)合創(chuàng)始人兼產(chǎn)品及解決方案副總裁祝俊東認為,目前云端算力芯片還面對著五大挑戰(zhàn):架構、系統(tǒng)、場景、互聯(lián)以及快速迭代。

記者綜合分析得出:

從架構上來說,運算算力芯片對算力提升的需求與日俱增,但目前傳統(tǒng)SoC提升單芯片面積已經(jīng)達到瓶頸,摩爾定律極限在時刻限制芯片發(fā)展,內(nèi)存墻的限制也使得傳統(tǒng)架構芯片難以提升,更讓芯片在散熱、功耗等方面處處掣肘。因此需要異構計算架構來尋求芯片新的突破,其中就包括繞開摩爾定律的more than more——異構計算。

從系統(tǒng)角度來看,隨著大模型的廣泛運用,模型參數(shù)與規(guī)模都呈現(xiàn)指數(shù)級增長,因此需要更大規(guī)模的整合計算系統(tǒng)來應對大模型訓練和計算的需求。換句話說,盡管芯片算力不斷增長,但仍舊需要軟件端配合才能更好的發(fā)揮硬件性能。畢竟兵器是否趁手得看使用者的功力高低。

從應用場景來看,隨著ChatGPT爆火,AICG賽道上涌現(xiàn)了越來越多的玩家,未來AI領域還將出現(xiàn)更多應用場景,這也意味著還會有新賽道出現(xiàn)。因此,作為“AI起舞的舞臺”,運算算力芯片需要具備一定的通用性,也要有能力應對當今乃至未來日益多元化的專用計算場景。

從互聯(lián)來看,云端算力芯片需要高帶寬配合傳輸數(shù)據(jù)。未來大模型大算力應用涌現(xiàn),云與端之間的快速交互,也將對帶寬和延時提出更高要求。

最后,AICG與算力芯片市場還處于快速變化階段,競爭者不斷入行,藍海可能一夜之間就變成紅海。因此企業(yè)必須快速迭代產(chǎn)品,尤其在云端算力芯片上,需要不斷調(diào)整產(chǎn)品策略來迎合未來產(chǎn)品的新需求,同時還要縮短TTM乃至量產(chǎn)時間。

總的來說云端算力芯片目前挑戰(zhàn)頗多,無論是從技術角度還是市場角度,國內(nèi)涌現(xiàn)的諸多AICG與算力芯片玩家都需要更多的突破。更重要的一點是,目前全球算力芯片絕大部分市場都在英偉達手中,國產(chǎn)算力芯片在市場上仍舊處于弱勢。但在新興市場中,有著強力GPU先發(fā)優(yōu)勢的英偉達面對的問題是什么呢?

除了AICG之外,目前自動駕駛技術同樣發(fā)展迅速,值得關注,這也激發(fā)出了全新的算力芯片需求。自動駕駛中,受限于延時與傳輸,對于雷達與攝像頭信號處理屬于邊或終端計算。但云計算對自動駕駛算法與系統(tǒng)的支持仍舊重要,云與端的結合成為更多汽車廠商的選擇,但新的挑戰(zhàn)也如期而至。英偉達技術專家在自動駕駛上的云端結合的挑戰(zhàn)上指出,云在用于自動駕駛汽車的人工智能軟件的開發(fā)中發(fā)揮著重要作用。數(shù)據(jù)被收集、整理、攝取、標記并用于訓練深度神經(jīng)網(wǎng)絡,從計算角度來看是一項艱巨的任務。這是一個增強人工智能模型的迭代過程。創(chuàng)建模型后,將使用模擬在云中對其進行測試和驗證。

英偉達的專家表示,自動駕駛汽車運行時,不需要連接到云,但這是一個額外的好處,可以從交通、基礎設施和天氣等各種來源獲取信息,以實現(xiàn)安全駕駛操作。但自動駕駛汽車必須完全保持自主性,因此駕駛決策必須在車上做出,而不是在云端做出。連接到云的軟件定義汽車還為汽車制造商提供了新的商業(yè)模式和訂閱服務機會,同時為消費者帶來價值。過去,汽車在購買時處于最佳狀態(tài),但隨后就會貶值。對于軟件定義的汽車來說,它處于最基本的銷售水平,隨著時間的推移,通過基于云,也就是云端算力芯片支持下的的軟件更新,它會變得更好、更安全。

在挑戰(zhàn)中育新機,于變局中開新局

AI“躁動”的這幾年,也讓下游應用場景百花齊放,這其中,AI與國產(chǎn)電動汽車全面崛起,讓AI駕駛,也就是自動駕駛技術成為資本寵兒。

針對自動駕駛領域的云端算力芯片機遇,祝俊東認為,受自動駕駛技術的快速發(fā)展驅動,大算力AI芯片正在汽車領域迎來廣闊的機遇和前景。通過高效的計算和深度學習算法,大算力AI芯片可以提供更精準和可靠的駕駛決策,提升行車安全性和駕駛體驗。而在云和端的結合中,最大的難點在于自動駕駛技術對實時性和低延遲要求非常高,將算力分布在云端和邊緣端之間會面臨數(shù)據(jù)傳輸和處理的挑戰(zhàn)。大量的傳感器數(shù)據(jù)和圖像到云端進行處理可能會導致較高的網(wǎng)絡延遲和消耗大量的帶寬。

他認為,異構芯片可以將AI算力和邏輯算力集成在一起,在不同的計算場景中發(fā)揮不同的效用。這種集成能夠提供更高的計算性能和效率,滿足自動駕駛技術對算力的需求。同時,異構集成高帶寬、低延時的互聯(lián)特性,也能有效幫助自動駕駛進行云與端的交互,有效提升自動駕駛系統(tǒng)的性能和效率。

跳出應用,回頭看云端算力芯片本身。GPU或GPGPU是云端算力算力芯片或AI芯片的主流形態(tài)。不過也有人認為目前的AI芯片是過渡形態(tài),未來所有AI芯片還會向ASIC方向靠攏。這對這一觀點,摩爾線程專家認為,目前AI算法還在快速迭代和變化,在這個過程沒有放緩或停止之前,GPU仍具有特別強的優(yōu)勢。對于云端算力芯片未來的看法,摩爾線程專家認為,云端基礎設施需要具備對未來技術的兼容性,GPU仍是首選。未來的變化,在摩爾線程看來主要包括幾個方面:工藝制程向前推進,算力、帶寬不斷上升;通過chiplet方案,進一步提高芯片級別的計算密度和系統(tǒng)集成度3、云端AI芯片將不斷融合新算法所需的功能和加速模塊。

??|認為,在AI芯片領域,作為通用芯片和專用芯片的代表,GPU和ASIC各有優(yōu)勢。但是專用芯片與通用芯片永遠都不是互相替代的關系,二者必須協(xié)同工作才能發(fā)揮出最大的價值。通過異構計算架構,可以把如GPU為代表的通用芯片與ASIC等專用芯片集合起來,兼顧通用性和專用性的雙重優(yōu)勢,提供更全面和高效的解決方案。異構計算也有助于客戶根據(jù)AI任務的實際需求,調(diào)整通用芯片和專用芯片的比重,以滿足不斷變化的AI應用領域的需求。

寫在最后

總的來說,云端算力芯片為AI時代的創(chuàng)新和應用注入了無限活力,它已經(jīng)成為當之無愧的“AI石油”。面臨挑戰(zhàn)與機遇,云端算力芯片未來還會不斷突破創(chuàng)新,驅動著智能化世界的前行。

在追逐智能化的道路上,云端算力芯片扮演著不可或缺的角色。以其強大的計算能力和無限的潛力,它推動著科技的創(chuàng)新和進步。隨著技術的不斷發(fā)展,我們有理由相信云端算力芯片將繼續(xù)引領人工智能的未來,為我們帶來更加智能、高效的世界。

最后感謝摩爾線程、奇異摩爾以及英偉達三位專家接受采訪。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    463

    文章

    54010

    瀏覽量

    465984
  • AI
    AI
    +關注

    關注

    91

    文章

    39777

    瀏覽量

    301373
  • 智能化
    +關注

    關注

    15

    文章

    5236

    瀏覽量

    60156

原文標題:云端算力芯片為什么是科技石油?

文章出處:【微信號:阿寶1990,微信公眾號:阿寶1990】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    “四合一”平臺,芯片國產(chǎn)化率超九成,兼容8種國產(chǎn)AI芯片

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)4月11日消息,由中國移動承建的全國首個“四合一”網(wǎng)絡調(diào)度平臺正式投入使用。四合一是指將通用
    的頭像 發(fā)表于 04-13 00:03 ?4003次閱讀

    云天勵飛正式舉辦大芯片戰(zhàn)略前瞻會

    2月3日,云天勵飛正式舉辦“大芯片戰(zhàn)略前瞻會”,首次對外公布未來三年的大 AI 推理芯片
    的頭像 發(fā)表于 02-06 17:23 ?3653次閱讀

    中國芯片的拐點時刻

    作者|Taylor出品|芯片技術與工藝當OpenAI的GPT-5在得克薩斯州的機房中晝夜轟鳴,當Nvdia的H200芯片被炒至數(shù)十萬美元仍一卡難求,中國的
    的頭像 發(fā)表于 01-31 07:00 ?1667次閱讀
    中國<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>的拐點時刻

    將AI送上太空,是終極方案還是瘋狂幻想?評論區(qū)說出你的陣營!

    AI
    江蘇易安聯(lián)
    發(fā)布于 :2026年01月06日 09:43:34

    云端集中到邊緣分布:邊緣智如何重塑網(wǎng)絡布局

    隨著大模型推理延遲進入毫秒級時代,整個科技行業(yè)都意識到:網(wǎng)絡的規(guī)則正在被改寫。這場變革的核心,正是從云端集中式計算向邊緣分布式智能的范式轉移。據(jù)行業(yè)多家分析機構綜合預測,全球AI基礎設施正面
    的頭像 發(fā)表于 12-25 11:34 ?422次閱讀
    從<b class='flag-5'>云端</b>集中到邊緣分布:邊緣智<b class='flag-5'>算</b>如何重塑<b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡布局

    邁向云端巔峰:昆侖芯K200 AI加速卡全面解讀

    昆侖芯K200作為云端AI加速卡,在K100架構基礎上全面升級。其INT8達256 TOPS,配備16GB HBM內(nèi)存與512GB/s帶寬,專為千億參數(shù)大模型訓練與高并發(fā)推理優(yōu)化。采用全高全長雙
    的頭像 發(fā)表于 12-14 11:17 ?1917次閱讀
    邁向<b class='flag-5'>云端</b><b class='flag-5'>算</b><b class='flag-5'>力</b>巔峰:昆侖芯K200 AI加速卡全面解讀

    湘軍,讓變成生產(chǎn)?

    腦極體
    發(fā)布于 :2025年11月25日 22:56:58

    國產(chǎn)AI芯片真能扛住“內(nèi)卷”?海思昇騰的這波操作藏了多少細節(jié)?

    最近行業(yè)都在說“是AI的命門”,但國產(chǎn)芯片真的能接住這波需求嗎? 前陣子接觸到海思昇騰910B,實測下來有點超出預期——7nm工藝下
    發(fā)表于 10-27 13:12

    騰視科技TS-SG-SM7系列AI模組:32TOPS引擎,開啟邊緣智能新紀元

    從城市管理到工業(yè)生產(chǎn),從物流運輸?shù)较M終端,TS-SG-SM7系列AI模組以 “超強、超低功耗、靈活擴展” 的特性,成為邊緣智能落地的關鍵支點。騰視科技正通過持續(xù)的技術創(chuàng)新,推
    的頭像 發(fā)表于 07-07 16:44 ?1890次閱讀
    騰視科技TS-SG-SM7系列AI<b class='flag-5'>算</b><b class='flag-5'>力</b>模組:32TOPS<b class='flag-5'>算</b><b class='flag-5'>力</b>引擎,開啟邊緣智能新紀元

    下一代云端生產(chǎn)的核心特征與技術演進

    下一代云端生產(chǎn)的核心特征與技術演進 一、基礎設施的全面升級 四融合架構? 中國移動已建成覆蓋通算算
    的頭像 發(fā)表于 04-22 07:42 ?558次閱讀
    下一代<b class='flag-5'>云端</b>生產(chǎn)<b class='flag-5'>力</b>的核心特征與技術演進

    6TOPSNPU加持!RK3588如何重塑8K顯示的邊緣計算新邊界

    在萬物互聯(lián)的時代背景下,邊緣計算與8K顯示的融合需求日益迫切。傳統(tǒng)的云端處理模式在面對8K超高清視頻數(shù)據(jù)時,常常出現(xiàn)延遲高、帶寬壓力大等問題,而邊緣計算設備由于有限,難以支撐8K視頻的實時解碼
    發(fā)表于 04-18 15:32

    AI與云端生產(chǎn)結合應用場景及技術解析(2025)

    AI與云端生產(chǎn)結合應用場景及技術解析(2025) 一、核心技術架構? 云原生與智能網(wǎng)絡? 采用容器化、微服務等云原生技術實現(xiàn)應用敏捷開發(fā)與彈性擴展,支撐工業(yè)大模型訓練、城市級數(shù)據(jù)
    的頭像 發(fā)表于 04-15 08:41 ?910次閱讀
    AI與<b class='flag-5'>云端</b>生產(chǎn)<b class='flag-5'>力</b>結合應用場景及技術解析(2025)

    芯片的生態(tài)突圍與革命

    電子發(fā)燒友網(wǎng)報道(文 / 李彎彎)大芯片,即具備強大計算能力的集成電路芯片,主要應用于高性能計算(HPC)、人工智能(AI)、數(shù)據(jù)中心、自動駕駛等需要海量數(shù)據(jù)并行計算的場景。隨著
    的頭像 發(fā)表于 04-13 00:02 ?3243次閱讀

    云端生產(chǎn)應用場景分析

    一、?政務智能化? 審批流程重構? 云端政務系統(tǒng)通過跨部門數(shù)據(jù)協(xié)同實現(xiàn)“數(shù)據(jù)授權可用但不可見”,將單個許可事項辦理時間壓縮至15分鐘,效率提升40%。例如某省級行政中心采用移動云,身份證、社保等
    的頭像 發(fā)表于 04-03 08:29 ?713次閱讀
    <b class='flag-5'>云端</b>生產(chǎn)<b class='flag-5'>力</b>應用場景分析

    承載百芯,低功耗解鎖高性能——云端效率觸手可及

    云端效率未來發(fā)展趨勢預測 一、?AI與云計算深度融合驅動效率質(zhì)變? 1? 生成式AI重構云端服務生態(tài) ? 生成式AI與大模型技術將深度融入云端平臺,推動云服務商向“智一體化”轉型,例
    的頭像 發(fā)表于 03-24 08:35 ?638次閱讀