91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

拋棄8GB內(nèi)存,端側(cè)AI大模型加速內(nèi)存升級(jí)

晶芯觀察 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2024-11-03 00:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)端側(cè)AI大模型的到來(lái)在存儲(chǔ)市場(chǎng)產(chǎn)生了最直接的反應(yīng)。年初在我們對(duì)旗艦智能手機(jī)的存儲(chǔ)容量統(tǒng)計(jì)中,16GB內(nèi)存+512GB存儲(chǔ)成為幾乎所有旗艦機(jī)型都提供的選擇。畢竟AI大模型的運(yùn)行以及相關(guān)應(yīng)用的激增都比較吃?xún)?nèi)存和閃存。就在最近,連蘋(píng)果也開(kāi)始淘汰8GB版本,逐步走向12GB、16GB內(nèi)存。智能終端對(duì)存儲(chǔ)容量的需求有增無(wú)減,同時(shí)也加速更先進(jìn)存儲(chǔ)規(guī)格的采用。

蘋(píng)果、小米紛紛砍掉8GB內(nèi)存版本

日前,蘋(píng)果宣布搭載M2和M3芯片的MacBook Air機(jī)型現(xiàn)標(biāo)配16GB內(nèi)存,相比此前翻倍,但起售價(jià)維持不變,分別仍為7999元和8999元。蘋(píng)果官網(wǎng)上13英寸M2 MacBook Air、13英寸M3 MacBook Air以及15英寸M3 MacBook Air均淘汰了8GB版本,標(biāo)配16GB內(nèi)存,固態(tài)硬盤(pán)是256GB起步。截至目前,蘋(píng)果新款MacBook Pro、Mac mini、iMac等設(shè)備全部都是16GB內(nèi)存起步。

近期,小米公司宣布了其旗艦產(chǎn)品小米15系列的內(nèi)存配置重要調(diào)整。小米董事長(zhǎng)兼CEO雷軍表示,小米15將砍掉8GB內(nèi)存版本,標(biāo)準(zhǔn)版將從12GB起步。

雷軍表示,為了最大程度展現(xiàn)端側(cè) AI的能力,我們決定取消 8GB 版本。小米15系列,在設(shè)計(jì)工藝、性能功耗、續(xù)航表現(xiàn)和使用體驗(yàn)等方方面面都有巨大的提升。

10月28日,小米中國(guó)區(qū)市場(chǎng)部副總經(jīng)理、Redmi品牌總經(jīng)理王騰在社交平臺(tái)上解釋稱(chēng),這一決策(指取消8GB內(nèi)存,從12GB起步)主要是基于未來(lái)手機(jī)AI應(yīng)用的發(fā)展趨勢(shì)。隨著端側(cè)AI大模型對(duì)內(nèi)存需求的增加,8GB內(nèi)存已逐漸無(wú)法滿(mǎn)足高效運(yùn)行的需求。他建議,在資金允許的情況下,消費(fèi)者應(yīng)選擇更大內(nèi)存的版本,以確保手機(jī)能夠流暢運(yùn)行各類(lèi)AI應(yīng)用。

另外,對(duì)于小米15系列的漲價(jià),雷軍表示,去年我跟大家說(shuō)過(guò),小米14首定是最后一次定價(jià)3999元。今年3nm工藝升級(jí),同時(shí)供應(yīng)鏈 RAMROM 成本漲幅很大,我們?cè)谘邪l(fā)上投入也非常大,小米15 確實(shí)需要漲價(jià)。我可以保證,即便漲價(jià),小米15 依舊日物超所值!相比往代同內(nèi)存版本的漲價(jià)幅度,也肯定讓大家覺(jué)得“貴得有理由”,謝謝大家理解!

端側(cè)AI大模型的內(nèi)存容量

由于端側(cè)AI大模型需要在內(nèi)存中加載,即便采用壓縮技術(shù),越大的模型越吃容量。一方面現(xiàn)在端側(cè)AI大模型有著輕量化的趨勢(shì),另一方面足夠大容量和性能更高的內(nèi)存更能滿(mǎn)足端側(cè)AI的需求。

今年6月蘋(píng)果發(fā)布Apple Intelligence,將強(qiáng)大的生成模型置于 iPhone、iPad 和 Mac 的核心。它具有的數(shù)據(jù)處理和情境感知能力。它能夠深入理解設(shè)備中的各類(lèi)數(shù)據(jù),包括照片、郵件、信息等,并據(jù)此為用戶(hù)提供個(gè)性化的智能服務(wù)。分析師郭明錤曾表示,Apple Intelligence采用端側(cè)3B LLM,經(jīng)過(guò)壓縮后,隨時(shí)需要預(yù)留約0.7-1.5GB DRAM來(lái)運(yùn)作Apple Intelligence的端側(cè)LLM。

在安卓陣營(yíng),早在去年,端側(cè)AI便成為各大手機(jī)終端廠(chǎng)商進(jìn)行手機(jī)創(chuàng)新的主航道,彼時(shí)大家都將AI端側(cè)大模型的參數(shù)集中于7B。然而參數(shù)越大所需的處理器、存儲(chǔ)等資源越多,輕量化小模型或許更適合于智能終端。

vivo繼去年帶來(lái)了三款端側(cè)大模型(自研十億、百億、千億三個(gè)參數(shù)量級(jí))之后,發(fā)布全新30億參數(shù)量級(jí)的藍(lán)心端側(cè)大模型3B。

在對(duì)話(huà)寫(xiě)作、摘要總結(jié)、信息抽取等能力上,藍(lán)心3B可以越級(jí)比肩行業(yè)7B-9B模型。相比藍(lán)心7B,藍(lán)心 3B極致性能提升300%,平衡模式下功耗優(yōu)化達(dá)46%,極致出詞速度可以達(dá)到80字/s,系統(tǒng)功耗僅450mA,內(nèi)存占用僅1.4GB。藍(lán)心端側(cè)大模型3B真正打破了模型小、能力強(qiáng)、消耗低的“不可能三角定律”。

蘋(píng)果為了支持Apple Intelligence在手機(jī)端的應(yīng)用,將iPhone 16系列的四款機(jī)型全部升級(jí)到了8GB內(nèi)存。為何選定為8GB內(nèi)存,而不是更高?蘋(píng)果硬件技術(shù)高級(jí)副總裁Johny Srouji表示,Apple Intelligence是促使使用8GB內(nèi)存的一個(gè)主要原因。他還提到,軟硬件和產(chǎn)品的完全集成帶來(lái)了很多好處,蘋(píng)果軟件團(tuán)隊(duì)經(jīng)過(guò)多次的內(nèi)存優(yōu)化計(jì)算,避免內(nèi)存浪費(fèi),綜合考慮之后認(rèn)為8GB是最適合的選擇。

我們看到新發(fā)布的vivo X200系列和OPPO Find X8系列等手機(jī)都是直接從12GB版本起步。安卓陣營(yíng)旗艦手機(jī)的內(nèi)存容量升級(jí)更加積極,蘋(píng)果反而顯得有點(diǎn)保守了。盡管蘋(píng)果有其軟硬件優(yōu)化的系統(tǒng)級(jí)優(yōu)勢(shì),但相信8GB內(nèi)存的選擇,成本也是考慮因素之一。

內(nèi)存規(guī)格不斷提升

旗艦智能手機(jī)主要采用LPDDR5X內(nèi)存規(guī)格,LPDDR5X能夠更好地加速邊緣AI運(yùn)算,提供高存儲(chǔ)器頻寬和更佳的功耗效率。此前LPDDR5X速率達(dá)8.5Gbps,LPDDR5T速率達(dá)9.6Gbps的水平,而最近發(fā)布的新機(jī)甚至還采用了更高速率的LPDDR5X。

例如,OPPO Find X8 系列搭載潮汐引擎×天璣 9400,采用臺(tái)積電第二代3nm工藝與新一代ARM架構(gòu),搭配高速閃存UFS 4.0與LPDDR5X先進(jìn)內(nèi)存規(guī)格,帶來(lái)更強(qiáng)的性能和更均衡的功耗表現(xiàn)。其中,F(xiàn)ind X8 Pro采用LPDDR5X內(nèi)存,F(xiàn)ind X8 Pro 衛(wèi)星通信版采用了LPDDR5X 10667Mbps版內(nèi)存。在 vivo X200新機(jī)中,vivo X200 Pro 16GB + 1TB 衛(wèi)星通信版本搭載LPDDR5X Ultra Pro,同樣達(dá)到10667Mbps速度。

此前三星半導(dǎo)體就表示,已成功在聯(lián)發(fā)科下一代天璣旗艦移動(dòng)平臺(tái)(天璣9400)完成其最快的10.7千兆比特/秒(Gbps)LPDDR5X DRAM驗(yàn)證。成為當(dāng)今全球最快的手機(jī)內(nèi)存。

至于蘋(píng)果新一代新機(jī),iPhone 16采用6400Mbps的LPDDR5,蘋(píng)果iPhone 16 Pro和16 Pro Max版本都是采用的是LPDDR5X規(guī)格的內(nèi)存,7500Mbps速率。

LPDDR5標(biāo)準(zhǔn)于2019年2月發(fā)布,2021年7月JEDEC組織推出了升級(jí)版LPDDR5X。為了打造更高性能更能滿(mǎn)足端側(cè)AI大模型運(yùn)算的內(nèi)存,今年以來(lái)JEDEC組織正在積極制定新一代低功耗內(nèi)存LPDDR6標(biāo)準(zhǔn),該組織設(shè)定了 LPDDR6的速度范圍從 10.667Gbps到14.4Gbps??梢钥吹剑?0.7GbpsLPDDR5X DRAM已經(jīng)初步達(dá)到了該組織擬定的LPDDR6最低速度范圍要求。接下來(lái),各大DRAM廠(chǎng)商勢(shì)必積極跟進(jìn)LPDD6的技術(shù)和產(chǎn)品,手機(jī)內(nèi)存也將上一個(gè)新的臺(tái)階。
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    9

    文章

    3209

    瀏覽量

    76358
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39760

    瀏覽量

    301366
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3650

    瀏覽量

    5179
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    美光科技揭示側(cè)AI未來(lái)發(fā)展的五大關(guān)鍵

    在當(dāng)今技術(shù)驅(qū)動(dòng)的世界中,AI 正在徹底改變各行各業(yè)。無(wú)論您關(guān)注手機(jī)、PC 還是汽車(chē)領(lǐng)域,都需要了解內(nèi)存和存儲(chǔ)對(duì)側(cè)設(shè)備上 AI 工作負(fù)載的關(guān)
    的頭像 發(fā)表于 01-30 15:36 ?531次閱讀

    側(cè)模型上車(chē):從“語(yǔ)音助手”到“車(chē)內(nèi) AI 智能體”的躍遷革命

    生活空間”的可能性。當(dāng)7B級(jí)大模型在車(chē)規(guī)級(jí)芯片上流暢運(yùn)行,當(dāng)多模態(tài)交互(語(yǔ)音+視覺(jué)+傳感)成為標(biāo)配,車(chē)載助手已從“被動(dòng)響應(yīng)”升級(jí)為“主動(dòng)決策”,成為車(chē)內(nèi)真正的“數(shù)字大腦”。這場(chǎng)由側(cè)
    的頭像 發(fā)表于 01-13 09:10 ?468次閱讀

    應(yīng)對(duì)側(cè)AI算力、內(nèi)存、功耗“三堵墻”困境,安謀科技Arm China “周易”X3給出技術(shù)錦囊

    AI模型加速從云端向邊緣與側(cè)滲透,然而,算力、內(nèi)存、功耗等卻成了制約其規(guī)?;涞氐摹案邏Α?/div>
    的頭像 發(fā)表于 12-18 13:45 ?402次閱讀
    應(yīng)對(duì)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>算力、<b class='flag-5'>內(nèi)存</b>、功耗“三堵墻”困境,安謀科技Arm China “周易”X3給出技術(shù)錦囊

    邁向云端算力巔峰:昆侖芯K200 AI加速卡全面解讀

    昆侖芯K200作為云端AI加速卡,在K100架構(gòu)基礎(chǔ)上全面升級(jí)。其INT8算力達(dá)256 TOPS,配備16GB HBM
    的頭像 發(fā)表于 12-14 11:17 ?1914次閱讀
    邁向云端算力巔峰:昆侖芯K200 <b class='flag-5'>AI</b><b class='flag-5'>加速</b>卡全面解讀

    【CIE全國(guó)RISC-V創(chuàng)新應(yīng)用大賽】基于 K1 AI CPU 的大模型部署落地

    8GB 物理內(nèi)存 (且操作系統(tǒng)還要占用約 500MB+)。 結(jié)論 :如果直接照搬官方文檔下載 Q4 模型, 100% 會(huì)因?yàn)?b class='flag-5'>內(nèi)存不足(OOM)而無(wú)法運(yùn)行 。 為了滿(mǎn)足賽題要求,必須采
    發(fā)表于 11-27 14:43

    此芯科技發(fā)布“合一”AI加速計(jì)劃,賦能邊緣與側(cè)AI創(chuàng)新

    產(chǎn)品組合,覆蓋從1.5B至32B參數(shù)規(guī)模的側(cè)AI模型推理需求,滿(mǎn)足工業(yè)、消費(fèi)電子、智能終端等多樣化場(chǎng)景的部署需求,推動(dòng)AI技術(shù)從云端向邊緣
    的頭像 發(fā)表于 09-15 11:53 ?2011次閱讀
    此芯科技發(fā)布“合一”<b class='flag-5'>AI</b><b class='flag-5'>加速</b>計(jì)劃,賦能邊緣與<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>創(chuàng)新

    科普:什么AI 內(nèi)存技術(shù)

    問(wèn)題。 為什么 AI 內(nèi)存很重要? 在 AI 模型訓(xùn)練和推理過(guò)程中,大量的數(shù)據(jù)需要從內(nèi)存傳輸?shù)教幚砥鳎ㄈ?GPU 或 TPU)進(jìn)行計(jì)算。傳統(tǒng)
    的頭像 發(fā)表于 09-03 15:44 ?1391次閱讀

    華為CANN與智譜GLM側(cè)模型完成適配

    已于7月28日正式開(kāi)源其新一代基座模型GLM-4.5,其GLM側(cè)模型已完成與CANN的適配。這標(biāo)志著國(guó)產(chǎn)大模型與計(jì)算架構(gòu)在
    的頭像 發(fā)表于 08-11 11:00 ?2565次閱讀

    后摩智能發(fā)布全新邊大模型AI芯片

    7月25日,WAIC 2025 前夕,后摩智能正式發(fā)布全新邊大模型 AI 芯片——后摩漫界M50,同步推出力擎系列 M.2卡、力謀系列加速卡及計(jì)算盒子等硬件組合,形成覆蓋移動(dòng)終端與邊
    的頭像 發(fā)表于 07-26 16:09 ?1547次閱讀

    迅為iTOP-3588S開(kāi)發(fā)板核心板引腳240PIN全部引出8GB內(nèi)存32GBEMMC存儲(chǔ)

    ,8GB內(nèi)存,32GBEMMC。 四核心架構(gòu)GPU內(nèi)置GPU可以完全兼容0penGLES1.1、2.0和3.2。 內(nèi)置NPU RK3588S內(nèi)置NPU,支持INT4/INT8/INT16/FP16混合運(yùn)算
    發(fā)表于 06-23 11:19

    曝華為Mate80系列定制超大內(nèi)存 王炸是大內(nèi)存與麒麟9030通過(guò)SiP封裝技術(shù)集成

    超過(guò)20GB,要知道目前在售的華為機(jī)型最大配備的內(nèi)存也只有16GB。華為Mate 80系列手機(jī)將一舉成為華為手機(jī)史上內(nèi)存最大的機(jī)型。 運(yùn)行內(nèi)存
    的頭像 發(fā)表于 06-17 11:50 ?3480次閱讀

    華強(qiáng)北TF卡回收 內(nèi)存卡回收

    、威剛TF卡,索尼TF卡、創(chuàng)見(jiàn)TF卡.......長(zhǎng)期大量回收內(nèi)存SD卡,回收全新內(nèi)存卡,收購(gòu)原裝內(nèi)存卡,回收DDR,收購(gòu)DDR。 本公司長(zhǎng)期回收高存儲(chǔ)容量,最常用的容量:8GB、16
    發(fā)表于 05-21 17:48

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來(lái)了全面升級(jí)的天璣AI開(kāi)發(fā)套件2.0,在模型庫(kù)規(guī)模、架構(gòu)開(kāi)放程度、前沿側(cè)AI技術(shù)支持
    發(fā)表于 04-13 19:52

    AI模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決
    發(fā)表于 03-27 11:26 ?574次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式

    AI模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方
    的頭像 發(fā)表于 03-26 19:05 ?1260次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式