9月10日凌晨1點，蘋果新品發(fā)布會如期舉行，全新iPhone16系列成為蘋果生態(tài)中真正意義上的第一款原生AI手機，在第二代3nm工藝A18和A18 Pro芯片的加持下，iPhone16系列能夠容納并快速運行以Apple Intelligence為中心的生成式AI功能在手機端側(cè)運行。用庫克的話說：“新一代iPhone徹徹底底為Apple Intelligence打造”。

本次發(fā)布會的主要亮點除蘋果新增的相機控制按鈕外，主要集中在蘋果對AI生態(tài)的全面構(gòu)建方面。在理解蘋果發(fā)布會的新功能之前，先帶大家回顧一下蘋果在生成式AI方面的主要成果。

具體來說，蘋果開發(fā)了兩種全新基礎(chǔ)語言模型，構(gòu)成了蘋果Apple Intelligence的核心：一個是可以在蘋果云服務(wù)器中運行的較大參數(shù)的大語言模型（LLM），稱為AFM-server，專為密集型任務(wù)設(shè)計，并使用私人云計算（Private Cloud Compute）的系統(tǒng)來保護用戶數(shù)據(jù)；另一個是端側(cè)小語言模型（SLM）AFM-on-device，大約有30億參數(shù)，通過對大語言模型進行剪枝、蒸餾，并通過精選的高質(zhì)量數(shù)據(jù)訓(xùn)練和架構(gòu)調(diào)整而來，優(yōu)化后可以在iPhone和其他終端設(shè)備上運行，具備更高效率和響應(yīng)能力。

蘋果為何可以稱為重新定義了AI手機？

蘋果的AI戰(zhàn)略通過整合操作系統(tǒng)、軟件、模型和數(shù)據(jù)，強化了對應(yīng)用場景的理解，訓(xùn)練出了能夠深刻洞察用戶需求并幫助用戶決策的AI Agent。

簡單來講，相較于各類傳統(tǒng)的生成式AI應(yīng)用工具，蘋果將AI功能融合到用戶使用手機的每一個環(huán)節(jié)，通過手機端側(cè)運行的小語言模型能力讓智能手機真正成為日常生活、辦公、娛樂的私人管家，它會收集整理手機端本地的各類信息，在用戶使用或有需要時主動提供建議或直接幫助實現(xiàn)。

并且因為其端側(cè)模型在本地運行的特性，可以充分保護用戶的隱私信息安全、提升信息反饋效率?？梢哉f每一個搭載了AI功能的蘋果手機都是一個獨立的個體。

為何大廠們最終選擇了端側(cè)AI賽道？

在大語言模型產(chǎn)品的實際應(yīng)用中，從業(yè)者們逐漸意識到大模型存在產(chǎn)品訓(xùn)練成本高、算力需求高、資源消耗大等難點，以及應(yīng)用適配性差、網(wǎng)絡(luò)傳輸不穩(wěn)定等缺點。在此背景下，AI模型的發(fā)展正在著力擺脫網(wǎng)絡(luò)、參數(shù)的多方限制，努力向更簡單、更小體量，為應(yīng)用場景量身定制和跨應(yīng)用生態(tài)的智能化轉(zhuǎn)變。

在端側(cè)AI的實際應(yīng)用方面，2023年3月谷歌推出參數(shù)規(guī)模達5620億的PaLM-E的大模型，并在同年10月發(fā)布搭載Google AI基礎(chǔ)功能的Pixel 8系列手機。2023年11月，vivo發(fā)布1750億規(guī)模的自研藍心大模型，落地終端側(cè)70億參數(shù)大語言模型；2024年9月6日，榮耀CEO趙明在2024德國柏林消費電子展IFA上面向全球推出行業(yè)首個跨應(yīng)用開放生態(tài)AI Agent。

不難看出，端側(cè)小模型將成為未來智能手機乃至各類智能終端的語言模型應(yīng)用樣本。IDC（國際數(shù)據(jù)公司）預(yù)計2024年全球新一代 AI 手機的出貨量將超過1.7億部，約占智能手機整體出貨量的15%，Counterpoint預(yù)計2027年出貨量達到5.22億部，滲透率達到40%。從大廠們的選擇不難看出，隨著端側(cè)算力的提升，端側(cè)AI成為大模型終端落地的最優(yōu)解，模型語言與應(yīng)用生態(tài)融合發(fā)展的AI Agent成為未來的趨勢。

隨著軟硬件技術(shù)的高速發(fā)展，相信除智能手機外，各類IoT終端產(chǎn)品也將逐步落地端側(cè)AI，相關(guān)硬件算力和通信交互需求也將持續(xù)增長。

美格智能持續(xù)加碼高算力AI模組研發(fā)

與行業(yè)伙伴共建端側(cè)AI新生態(tài)

洞察到端側(cè)AI的優(yōu)勢和廣闊前景，美格智能圍繞高算力、大帶寬、低功耗、廣鏈接，打造多款高算力AI模組產(chǎn)品，為端側(cè)小語言模型落地提供12Tops~48Tops算力支持。

在模組強大算力的支持下，不僅能夠在模組上成功運行Stable Diffusion、LLaMA-2、通義千問Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna等大模型產(chǎn)品，展現(xiàn)出卓越的邊緣端大模型部署能力，同時模組產(chǎn)品豐富的外圍接口，能夠以AI模組的形式將語音識別、機器視覺、導(dǎo)航、定位、避障和多模態(tài)技術(shù)通過各種傳感器植入到終端側(cè)，幫助終端產(chǎn)品快速收集和整合信息，打造不斷學(xué)習(xí)進步的智能“大腦”，助力客戶快速實現(xiàn)端側(cè)AI落地應(yīng)用，節(jié)約開發(fā)成本。

同時，面對端側(cè)AI與物聯(lián)網(wǎng)生態(tài)融合發(fā)展的新趨勢，美格智能以智能車載為切入打造端云協(xié)作的智能物聯(lián)網(wǎng)解決方案。以美格智能在2023年即已發(fā)布的車規(guī)級5G R16/R17 + C-V2X系列模組為例，該模組具備的5G通信能力和高算力成為端側(cè)+云端結(jié)合的混合式AI的落地形式之一，可廣泛應(yīng)用于AI Agent智能座艙、高階輔助駕駛、無人駕駛、車路云一體化相關(guān)領(lǐng)域。

在通信方面，相關(guān)模組產(chǎn)品符合3GPP Release 16/17標(biāo)準(zhǔn)，支持5G NR 獨立組網(wǎng)（SA）和非獨立組網(wǎng)（NSA），兼容全球主流國家和地區(qū)的頻段，支持選配C-V2X功能，使用全球統(tǒng)一的ITS 5.9GHz頻段部署V2X應(yīng)用，可采用PC5 Mode4模式直連通信，內(nèi)置ECDSA硬件引擎，可實現(xiàn)高達6000次/秒的C-V2X驗簽性能，具備在高速移動環(huán)境中提供遠距離傳輸、大帶寬、低延時連接的優(yōu)越性能；在算力方面，模組內(nèi)置多核心CPU處理器，最大支持22K的算力，在充足算力的支持下，車輛可基于C-V2X構(gòu)建網(wǎng)聯(lián)智能，實現(xiàn)由端側(cè)車載計算、路側(cè)邊緣計算和中心云計算構(gòu)成的分級、網(wǎng)絡(luò)化智能決策與控制，快速進行如車輛碰撞預(yù)警、車速引導(dǎo)、紅綠燈信息獲取等應(yīng)用。

端側(cè)AI是大模型技術(shù)落地的最優(yōu)解，而端側(cè)AI與云側(cè)大模型協(xié)同的混合式AI被行業(yè)從業(yè)者稱為“大模型時代的終極范式”，充分適配智能座艙、智能機器人、手持終端、AR/VR眼鏡等產(chǎn)品，成為人工智能落地應(yīng)用的新方向。同時混合式AI生態(tài)的發(fā)展又對終端的無線通信能力和算力提出了新的要求，集成了4G/5G 通信能力和高算力芯片以及眾多功能接口的智能模組和高算力AI模組，或?qū)⒊蔀橹悄芙K端廠商們的首選。

從蘋果的選擇來看，隨著端側(cè)算力的不斷增長和大模型技術(shù)的持續(xù)演進，終端側(cè)AI與混合式AI或許將成為大模型時代的最終選擇。美格智能也將持續(xù)不斷推出高算力模組和智能模組解決方案，以模組+解決方案雙輪驅(qū)動，支持更廣泛的垂直領(lǐng)域和合作伙伴共同引領(lǐng)生態(tài)發(fā)展，以先進的無線通信和AI技術(shù)加快實現(xiàn)萬物智聯(lián)的美好愿景。