在當(dāng)今技術(shù)驅(qū)動的世界中，AI 正在徹底改變各行各業(yè)。無論您關(guān)注手機(jī)、PC 還是汽車領(lǐng)域，都需要了解內(nèi)存和存儲對端側(cè)設(shè)備上 AI 工作負(fù)載的關(guān)鍵作用。美光科技深知，雖然 GPU（包括張量核）、TPU 和 NPU 等計(jì)算單元至關(guān)重要，但 AI 工作負(fù)載往往在計(jì)算資源耗盡之前就會遭遇內(nèi)存墻。我們的業(yè)界前沿內(nèi)存和存儲解決方案專為滿足這些嚴(yán)苛的端側(cè)數(shù)據(jù)需求而設(shè)計(jì)，可保障性能、效率與可靠性。

近年來，端側(cè)設(shè)備數(shù)量持續(xù)激增，默默地收集和處理著大量數(shù)據(jù)流。如今，這些設(shè)備的推理能力正在迅速發(fā)展，使 AI 工作負(fù)載能夠更接近數(shù)據(jù)來源運(yùn)行。這種演變?yōu)閮?nèi)存和存儲制造商帶來了巨大機(jī)遇。據(jù)Gartner 預(yù)測，2025 年支持生成式 AI的端側(cè)設(shè)備硬件支出將增長 99.5%，達(dá)到 39 億美元。作為 DRAM 和 NAND 技術(shù)領(lǐng)域的前沿企業(yè)，美光在 AI 生態(tài)系統(tǒng)中扮演著關(guān)鍵角色，完全有能力把握這一機(jī)遇。

當(dāng)您思考未來端側(cè)設(shè)備 AI如何發(fā)展時(shí)，需要了解以下五大關(guān)鍵須知。

端側(cè)推理正在提升效率并加速 AI 普及

端側(cè) AI 推理可帶來切實(shí)的好處，包括縮短網(wǎng)絡(luò)延遲、加強(qiáng)隱私保護(hù)、減少對網(wǎng)絡(luò)連接的依賴、降低運(yùn)營成本、提高能效等。通過在本地處理數(shù)據(jù)，而非將數(shù)據(jù)發(fā)送到云端，端側(cè)設(shè)備可提供速度更快、響應(yīng)更靈敏的 AI 體驗(yàn)。此外，本地?cái)?shù)據(jù)處理還可避免在端側(cè)設(shè)備和數(shù)據(jù)中心之間不斷地來回傳輸大量數(shù)據(jù)集，從而能夠節(jié)省大量能源。

這種演變標(biāo)志著一個(gè)重大轉(zhuǎn)變。在以前，端側(cè)設(shè)備嚴(yán)重依賴云服務(wù)器來完成自動駕駛等任務(wù)，面臨著網(wǎng)絡(luò)延遲和連接中斷等風(fēng)險(xiǎn)。如今，在端側(cè)執(zhí)行的高級推理使車輛能夠?qū)崟r(shí)處理傳感器數(shù)據(jù)，無需等待云端響應(yīng)即可做出即時(shí)決策。這些進(jìn)步為端側(cè) AI解鎖了新的可能性，并增強(qiáng)了用戶體驗(yàn)。 消費(fèi)者一旦親身體驗(yàn)到這些好處，AI 將加速普及。

端側(cè)高級推理將推動 AI 轉(zhuǎn)向分布式模型

但云不會消失

盡管端側(cè)計(jì)算發(fā)展迅猛，但云仍然是 AI 生態(tài)系統(tǒng)的重要組成部分。融合便捷端側(cè)計(jì)算與大規(guī)模云計(jì)算的分布式模型，正成為 AI 工作負(fù)載的理想解決方案。云端將繼續(xù)承擔(dān)大規(guī)模數(shù)據(jù)處理、模型訓(xùn)練和集中管理等任務(wù)，而端側(cè)設(shè)備則負(fù)責(zé)實(shí)時(shí)推理和本地化處理。

這種協(xié)作可充分利用兩種環(huán)境的各自優(yōu)勢，為混合方法奠定基礎(chǔ)。通過將端側(cè)的敏捷性與云端的可擴(kuò)展性相結(jié)合，企業(yè)可獲得靈活性、效率和彈性。在此基礎(chǔ)上，代理式 AI（即無需人工干預(yù)即可自主做出智能決策的 AI 系統(tǒng)）進(jìn)一步加強(qiáng)了端側(cè)與云端的協(xié)同，可優(yōu)化性能表現(xiàn)、增強(qiáng)安全性并確保資源的高效分配。簡而言之，AI 代理可駐留在終端設(shè)備中，當(dāng)遇到無法完全解答的問題時(shí)，它會立即向云端或數(shù)據(jù)中心中更復(fù)雜、更專業(yè)的 AI 模型尋求答案，然后為用戶返回更精準(zhǔn)的響應(yīng)。

總之，端側(cè)設(shè)備將越來越多地獨(dú)立處理推理任務(wù)，只有在完成需要大型模型或?qū)Ｓ媚Ｐ蛠韴?zhí)行的任務(wù)時(shí)，才依賴云端。

端側(cè)與云端協(xié)同運(yùn)作的 AI

正在帶來終極數(shù)據(jù)挑戰(zhàn)

在端側(cè)和云端雙重環(huán)境中管理 AI 工作負(fù)載帶來了獨(dú)特的數(shù)據(jù)挑戰(zhàn)。海量的多樣化數(shù)據(jù)加上實(shí)時(shí)處理需求，亟需創(chuàng)新解決方案。美光前沿內(nèi)存和存儲技術(shù)應(yīng)運(yùn)而生，能為復(fù)雜的 AI 數(shù)據(jù)工作負(fù)載提供所需的性能、可靠性和效率。

內(nèi)存瓶頸可謂一個(gè)重大問題，在模型訓(xùn)練和推理階段尤其如此。高帶寬內(nèi)存 (HBM3E) 可有效緩解云端的瓶頸，而LPDDR5X則為端側(cè)設(shè)備提供了高帶寬與高能效。這些內(nèi)存技術(shù)可確保 AI 工作負(fù)載能高效快速執(zhí)行，無論它們位于端側(cè)還是云端。

我們的全系列產(chǎn)品客戶都依賴美光的優(yōu)勢地位與專業(yè)積淀，來有效應(yīng)對這些數(shù)據(jù)挑戰(zhàn)。

內(nèi)存和存儲對于 AI 越來越重要

隨著 AI 模型日趨復(fù)雜，它們對內(nèi)存和存儲容量的需求與日俱增。無論是端側(cè)設(shè)備還是云端基礎(chǔ)設(shè)施，都需要支持這些不斷擴(kuò)展的模型，同時(shí)不影響性能。美光的內(nèi)存和存儲解決方案專為滿足這些需求而設(shè)計(jì)，可提供 AI 應(yīng)用所需的大容量與高速度。

我們的產(chǎn)品基于業(yè)界前沿制程節(jié)點(diǎn)，能效表現(xiàn)卓越，其中采用美光前沿 1γ 制程節(jié)點(diǎn)的產(chǎn)品更在競爭中脫穎而出。對于 AI 數(shù)據(jù)中心而言，高帶寬內(nèi)存（HBM3E 和 HBM4）能有效突破 AI 加速面臨的內(nèi)存墻限制。為實(shí)現(xiàn)更佳性能，AI 數(shù)據(jù)中心需要構(gòu)建完整的內(nèi)存與存儲層級架構(gòu)，包括：高密度 DDR5 模塊、LPDDR5X、采用美光 CZ122的 CXL 擴(kuò)展內(nèi)存池、采用美光 9650 NVMeSSD的本地 SSD 數(shù)據(jù)緩存，以及采用美光 6600 ION的聯(lián)網(wǎng)數(shù)據(jù)湖。

同樣，端側(cè)設(shè)備需要均衡的內(nèi)存和存儲組合配置，以保持 AI 工作負(fù)載的持續(xù)響應(yīng)。LPDDR5X 等低功耗 DRAM 可提供實(shí)時(shí)處理所需的帶寬，而快速、高效的存儲可用于處理模型數(shù)據(jù)和推理結(jié)果。通用閃存 (UFS) 4.0 具備移動設(shè)備和 AI PC 所需的速度和可靠性，當(dāng)與 PCIe 5.0 SSD（如美光 4600 NVMe SSD）搭配使用時(shí)，可確保智能手機(jī)和下一代 AI PC 等端側(cè)設(shè)備上的 AI 順暢運(yùn)行。

您無需獨(dú)自應(yīng)對所有數(shù)據(jù)挑戰(zhàn)

美光始終與您同行

憑借逾 45 年的深厚積累，美光已成為手機(jī)制造商、PC OEM 廠商和汽車制造商值得信賴的合作伙伴。我們在內(nèi)存與存儲解決方案領(lǐng)域擁有出類拔萃的專業(yè)實(shí)力，致力于助力客戶實(shí)現(xiàn) AI 目標(biāo)。深厚的行業(yè)積淀與持續(xù)創(chuàng)新的產(chǎn)品體系，使我們成為解決棘手?jǐn)?shù)據(jù)挑戰(zhàn)、把握加速 AI 發(fā)展新機(jī)遇的理想合作伙伴。讓我們攜手共進(jìn)，攻克 AI 技術(shù)難題，推動智能科技蓬勃發(fā)展。

隨著 AI 持續(xù)演進(jìn)，內(nèi)存與存儲在端側(cè)應(yīng)用及設(shè)備中的重要性不容忽視。無論是手機(jī)、PC 和汽車領(lǐng)域的企業(yè)，還是工業(yè)與機(jī)器人行業(yè)的先行者，都必須優(yōu)先考慮這些核心器件，方能確保其 AI 工作負(fù)載的成功運(yùn)行。美光始終提供快速、高效、可靠的解決方案，為這些企業(yè)提供助力。

我們的技術(shù)不僅能存儲數(shù)據(jù)，更能將數(shù)據(jù)轉(zhuǎn)化為切實(shí)可行的智能洞察，加速價(jià)值兌現(xiàn)。