91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AIGC加速成長(zhǎng),算力需求變化帶來(lái)系統(tǒng)級(jí)創(chuàng)新

Monika觀察 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:莫婷婷 ? 2023-05-30 01:04 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/莫婷婷)隨著大模型智能水平的提升,AIGC所需要的算力也在不斷增長(zhǎng)。根據(jù)OpenAI的研究,AI訓(xùn)練所需算力指數(shù)增長(zhǎng),且增長(zhǎng)速度超越硬件的摩爾定律。燧原科技創(chuàng)新研究院負(fù)責(zé)人、首席科學(xué)家姚建國(guó)教授認(rèn)為,算力分為需求、場(chǎng)景,還有芯片和系統(tǒng)四個(gè)層次。算力需求的變化給AI芯片以及系統(tǒng)都帶來(lái)了一定程度的挑戰(zhàn)。

多家廠商發(fā)布垂直類大模型,AIGC落地場(chǎng)景逐漸清晰

隨著各大公司對(duì)AIGC研究的不斷深入和技術(shù)投入,國(guó)內(nèi)外廠商積極推出屬于自己的類ChatGPT模型,例如華為的“盤古”,商湯的“日日新”、深蘭科技的“硅基知識(shí)”、出門問(wèn)問(wèn)的“序列猴子”、深信服的“安全大模型”等等大模型。這么多的大模型,若是放在兩年前,業(yè)內(nèi)人士可能會(huì)頭疼于它的落地場(chǎng)景。

得益于ChatGPT的出現(xiàn),業(yè)內(nèi)人士看到了更多AIGC落地的可能性,并且推動(dòng)AI行業(yè)進(jìn)入AIGC時(shí)代。百度創(chuàng)始人、董事長(zhǎng)兼CEO李彥宏近期公開(kāi)演講時(shí)就表示,“大模型即將改變世界”。

那么,大模型究竟會(huì)如何改變世界呢?這還得從落地場(chǎng)景看。目前,AIGC的典型應(yīng)用分為文生文、文生圖、文生視頻。近期中國(guó)市場(chǎng)開(kāi)放一些文生文的應(yīng)用越來(lái)越多,具體的應(yīng)用包括對(duì)話式功能,還支持搜索和營(yíng)銷的場(chǎng)景。

盡管國(guó)內(nèi)廠商還未推出像GPT-4如此強(qiáng)大的通用模型,但是在垂直領(lǐng)域的人工智能大模型卻迎來(lái)飛躍式的發(fā)展,并且有著巨大的想象空間。正如李彥宏提到的,每一個(gè)行業(yè)都應(yīng)該有屬于自己的大模型。未來(lái)技術(shù)跟業(yè)務(wù)深度融合是AIGC發(fā)展的最終方向。


算力需求變化帶來(lái)系統(tǒng)級(jí)創(chuàng)新

談及大模型對(duì)算力的需求,姚建國(guó)教授表示,AIGC智算中心可以分為三類大模型:基礎(chǔ)大模型、場(chǎng)景大模型和應(yīng)用大模型。

基礎(chǔ)大模型通過(guò)巨大的算力生成,然后通過(guò)預(yù)訓(xùn)練算力、超大訓(xùn)練算力支撐,例如ChatGPT。場(chǎng)景大模型是在大模型基礎(chǔ)進(jìn)行調(diào)優(yōu),通過(guò)Fine Tune算力支撐,可以適應(yīng)不同場(chǎng)景,也就能賦能到不同行業(yè),可以引用一些普惠訓(xùn)練算力。應(yīng)用大模型主要是通過(guò)推理算力,包括云端推理和端側(cè)推理。

對(duì)于芯片的需求,基礎(chǔ)大模型和場(chǎng)景大模型分別需要大算力訓(xùn)練芯片和中算力訓(xùn)練芯片,且對(duì)機(jī)器之間的數(shù)據(jù)互聯(lián)帶寬有較高的要求,都需要高速芯片互聯(lián)。而應(yīng)用大模型只需要云端推理算力,且可以使用分布式/單機(jī)訓(xùn)練和推理,是性價(jià)比較高的大模型之一。

算力肉眼可見(jiàn)地不斷增長(zhǎng),燧原科技姚建國(guó)教授在公開(kāi)演講時(shí)也提到了一組數(shù)據(jù):從2012年到2018年,訓(xùn)練AI算力增長(zhǎng)了30萬(wàn)倍,摩爾定律相同時(shí)間通用算力只有7倍的增長(zhǎng)。從這里可以看出AIGC對(duì)算力需求之高。

算力需求變化帶來(lái)了三大問(wèn)題,一是存/算性能失配,內(nèi)存墻導(dǎo)致訪存時(shí)延高、效率低;二是馮諾依曼架構(gòu)下,功耗墻導(dǎo)致傳輸能耗損失;三是滿足大模型需求,性能墻導(dǎo)致算力無(wú)法滿足。姚建國(guó)教授表示,未來(lái)不僅僅是單核芯片去解決算力問(wèn)題,一定會(huì)是通過(guò)一個(gè)系統(tǒng)級(jí)解決方案去實(shí)現(xiàn)整個(gè)算力適應(yīng)變化。

目前,單獨(dú)的服務(wù)器、集群難以解決大模型的預(yù)訓(xùn)練,因此需要有大算力加速,比如說(shuō)H100提供了Transformer引擎;此外還有機(jī)密計(jì)算、COP互聯(lián)加速、CXL協(xié)議等等各方面的創(chuàng)新。業(yè)內(nèi)人士普遍認(rèn)為,系統(tǒng)級(jí)創(chuàng)新會(huì)是未來(lái)的發(fā)展趨勢(shì)

對(duì)于大模型未來(lái)的發(fā)展趨勢(shì),IDC中國(guó)首席分析師武連峰認(rèn)為,AI大模型應(yīng)用深化,從專屬AI到通用AI,會(huì)是趨勢(shì)之一。當(dāng)然,最終實(shí)現(xiàn)通用AI的道路還有很長(zhǎng)。






聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AIGC
    +關(guān)注

    關(guān)注

    1

    文章

    391

    瀏覽量

    3228
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    蘇州市智能產(chǎn)業(yè)創(chuàng)新中心正式成立

    2月28日,蘇州市智能產(chǎn)業(yè)創(chuàng)新中心在中國(guó)移動(dòng)云能力中心正式啟動(dòng),為蘇州智能高質(zhì)量發(fā)展按下“加速
    的頭像 發(fā)表于 03-03 14:58 ?310次閱讀

    AI需求的爆發(fā)加速國(guó)產(chǎn)晶振替代進(jìn)程

    AI爆發(fā)推動(dòng)晶振需求激增,泰晶科技與惠倫晶體憑借高精度、小型化技術(shù)搶占光模塊核心賽道,高端產(chǎn)品毛利率達(dá)50%,加速下迎來(lái)黃金發(fā)展期。 在全球數(shù)字經(jīng)濟(jì)
    的頭像 發(fā)表于 02-12 10:44 ?736次閱讀

    2025年曙光存儲(chǔ)以先進(jìn)存構(gòu)建開(kāi)放的底座并加速AI進(jìn)化

    數(shù)據(jù)存儲(chǔ)作為AI基礎(chǔ)設(shè)施的重要組成,戰(zhàn)略價(jià)值日益凸顯。2025年,曙光存儲(chǔ)以先進(jìn)存構(gòu)建開(kāi)放的底座、加速AI進(jìn)化,穩(wěn)步推進(jìn)技術(shù)創(chuàng)新、產(chǎn)品
    的頭像 發(fā)表于 01-07 09:39 ?427次閱讀

    積木+3D堆疊!GPNPU架構(gòu)創(chuàng)新,應(yīng)對(duì)AI推理需求

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)2025年,人工智能正式邁入應(yīng)用推理時(shí)代。大模型從實(shí)驗(yàn)室走向千行百業(yè),推理需求呈指數(shù)級(jí)爆發(fā)。然而,高昂的推理成本與有限的供給之間的矛盾日益凸顯,成為制
    的頭像 發(fā)表于 12-11 08:57 ?7843次閱讀

    湘軍,讓變成生產(chǎn)

    腦極體
    發(fā)布于 :2025年11月25日 22:56:58

    中科曙光以生態(tài)賦能行業(yè)創(chuàng)新

    近日,“橘洲”V1端側(cè)版作為國(guó)內(nèi)首個(gè)基于國(guó)產(chǎn)預(yù)訓(xùn)練的視覺(jué)基座大模型在長(zhǎng)沙上線,驚艷四座。“橘洲”可在手機(jī)端實(shí)現(xiàn)1024×1024分辨率圖像的秒級(jí)生成,具有成本低、質(zhì)量高、速度快、輕量級(jí)、可離線
    的頭像 發(fā)表于 09-24 09:26 ?1190次閱讀

    國(guó)產(chǎn)飛騰工控機(jī)重大突破:推動(dòng)國(guó)產(chǎn)升級(jí)!

    當(dāng)下,已成為衡量國(guó)家綜合實(shí)力和產(chǎn)業(yè)競(jìng)爭(zhēng)的關(guān)鍵指標(biāo)。隨著數(shù)字化轉(zhuǎn)型的加速,各行業(yè)對(duì)
    的頭像 發(fā)表于 08-22 10:07 ?489次閱讀

    科技上線赤兔推理引擎服務(wù),創(chuàng)新解鎖FP8大模型

    的模型輕量化部署方案。用戶通過(guò)遠(yuǎn)程平臺(tái)預(yù)置的模型鏡像與AI工具,僅需50%的GPU即可解鎖大模型推理、企業(yè)知識(shí)庫(kù)搭建、智能體開(kāi)發(fā),加速
    的頭像 發(fā)表于 07-30 21:44 ?915次閱讀

    借勢(shì) RISC-V與 AI 浪潮,元石智打造新范式

    在AI技術(shù)飛速發(fā)展的當(dāng)下,需求呈指數(shù)級(jí)增長(zhǎng),成為推動(dòng)行業(yè)前行的核心動(dòng)力。與此同時(shí),RISC-V架構(gòu)憑借其開(kāi)源、靈活、可定制等特性,正逐漸嶄露頭角,為AI
    的頭像 發(fā)表于 07-25 14:51 ?691次閱讀
    借勢(shì) RISC-V與 AI 浪潮,元石智<b class='flag-5'>算</b>打造<b class='flag-5'>算</b><b class='flag-5'>力</b>新范式

    軟通智完成超億級(jí)A輪融資,加速AI產(chǎn)業(yè)布局

    機(jī)構(gòu)跟投。 自2024年成立以來(lái),軟通智積極參與全國(guó)一體化網(wǎng)建設(shè),以技術(shù)驅(qū)動(dòng)互聯(lián)互通體系構(gòu)建,
    的頭像 發(fā)表于 06-18 15:37 ?577次閱讀

    即國(guó)力,比克電池如何為AI時(shí)代“蓄能

    從車路協(xié)同破解出行困局,到AI醫(yī)生實(shí)現(xiàn)千萬(wàn)級(jí)問(wèn)診,再到智能工廠的全球零時(shí)差協(xié)同——人類正加速邁入以定義生產(chǎn)的“智
    的頭像 發(fā)表于 06-04 14:22 ?1125次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國(guó)力,比克電池如何為AI時(shí)代“蓄能

    AIGC基礎(chǔ)設(shè)施技術(shù)架構(gòu)與行業(yè)實(shí)踐

    代提升1.5倍,內(nèi)存容量達(dá)288GB,適配千億參數(shù)模型訓(xùn)練需求。 國(guó)產(chǎn)突破?:國(guó)內(nèi)首款6nm高性能GPU芯片于2025年5月成功點(diǎn)亮,性能對(duì)標(biāo)國(guó)際中端產(chǎn)品,已獲億元級(jí)訂單;國(guó)產(chǎn)芯片廠商與高端制程工藝結(jié)合,推動(dòng)
    的頭像 發(fā)表于 05-29 07:44 ?948次閱讀
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基礎(chǔ)設(shè)施技術(shù)架構(gòu)與行業(yè)實(shí)踐

    維諦技術(shù)(Vertiv)發(fā)布兆瓦級(jí)UPS新品,破局高密AI負(fù)載供電挑戰(zhàn)

    在AI時(shí)代,數(shù)據(jù)中心需要什么樣的供電系統(tǒng)?隨著AIGC業(yè)務(wù)需求的快速發(fā)展,導(dǎo)致機(jī)柜功率密度迅速增加,高密負(fù)載對(duì)數(shù)據(jù)中心的影響正日益加大。
    的頭像 發(fā)表于 04-03 11:01 ?1237次閱讀
    維諦技術(shù)(Vertiv)發(fā)布兆瓦<b class='flag-5'>級(jí)</b>UPS新品,破局高密AI<b class='flag-5'>算</b><b class='flag-5'>力</b>負(fù)載供電挑戰(zhàn)

    RAKsmart服務(wù)器如何提升AIGC平臺(tái)的運(yùn)行效率

    AIGC(人工智能生成內(nèi)容)領(lǐng)域,高效運(yùn)行意味著更快的模型訓(xùn)練、更低的推理延遲和更流暢的用戶體驗(yàn)。RAKsmart服務(wù)器憑借其硬件配置、網(wǎng)絡(luò)優(yōu)化和生態(tài)支持,為AIGC平臺(tái)提供了從底層
    的頭像 發(fā)表于 04-01 10:40 ?659次閱讀
    RAKsmart服務(wù)器如何提升<b class='flag-5'>AIGC</b>平臺(tái)的運(yùn)行效率

    DeepSeek推動(dòng)AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長(zhǎng)。DeepSeek等大模型的訓(xùn)練與推理任務(wù)對(duì)
    發(fā)表于 03-25 12:00