當(dāng)?shù)貢r間7月18日，Meta宣布，將發(fā)布其開源大模型LLaMA商用版本，新版本名為Llama 2。

高通將與Meta合作，從2024年起，Llama 2將能在旗艦智能手機(jī)和PC上運行。

客戶、合作伙伴和開發(fā)人員能構(gòu)建智能虛擬助手、生產(chǎn)力應(yīng)用、內(nèi)容創(chuàng)建工具、娛樂等用例，AI功能可以在沒有網(wǎng)絡(luò)連接的地方，甚至在飛行模式下運行。

根據(jù)高通19日的最新表態(tài)，能夠在智能手機(jī)、PC、VR/AR頭顯和汽車等終端上運行Llama 2一類的生成式AI模型，將支持開發(fā)者節(jié)省云成本，并為用戶提供更加私密、可靠和個性化的體驗。

高通技術(shù)公司高級副總裁兼技術(shù)、規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理Durga Malladi表示，為了有效地將生成式人工智能推廣到主流市場，人工智能將需要同時在云端和邊緣終端（如智能手機(jī)、筆記本電腦、汽車和物聯(lián)網(wǎng)終端）上運行。 ?

▌“AI競賽追趕者聯(lián)盟”？

Meta一直被評價為“在AI競爭中落后于同行”，而本次的Llama 2也能看出Meta追趕同行的野心。

首先是合作伙伴。

Meta的新版模型將由微軟通過其Azure云服務(wù)分發(fā)，且可以在Windows操作系統(tǒng)上運行。Mata更表示，微軟是“我們的首選合作伙伴”。

其次是開源。

Meta強(qiáng)調(diào)，Llama 2是一個開源大模型，“可以免費用于研究和商業(yè)用途”。而競爭對手中，不論是OpenAI的GPT-4，還是谷歌的PaLM 2，走的都是“技術(shù)保密路線”。

至于高通，迄今為止，出于AI計算對算力與數(shù)據(jù)的龐大需求，AI大模型主要是在大型服務(wù)器群與英偉達(dá)GPU上運行。而高通之前沒有趕上本輪AI熱潮，年內(nèi)股價漲幅與英偉達(dá)差距甚大。

在這種情況下，高通已將AI邊緣計算定為發(fā)展方向。高通公司高級副總裁Alex Katouzian5月曾明確表示，高通正在從一家通信公司過渡到一家智能邊緣計算公司?！半S著連接設(shè)備和數(shù)據(jù)流量加速增長，疊加數(shù)據(jù)中心成本攀升，（我們）不可能將所有內(nèi)容都發(fā)送到云端。”Katouzian表示，當(dāng)涉及到個人信息時，人們也不會愿意這樣做。

另外，之前高通已發(fā)布了全球首個在安卓手機(jī)上運行的Stable Diffusion終端側(cè)演示。Stable Diffusion是一個可用文本直接生成圖像的AI模型，其參數(shù)超過10億，此前僅能在云端計算集群內(nèi)運行。 ?

▌“云-邊”一體或成為AI應(yīng)用閉環(huán)的必由之路

如今，AI大模型已站上從“玩具”向“工具”快速演化的關(guān)鍵迭代期。如何讓大模型滲透進(jìn)入各類垂直場景，如何更低成本的使用大模型，如何讓更多場景與用戶接觸AI，成為了發(fā)展的下一個重點。

國盛證券指出，在AI向?qū)嶋H場景落地時，邊緣算力的重要性加速凸顯，邊緣算力在成本、時延、隱私上具有天然優(yōu)勢，也可以作為橋梁，預(yù)處理海量復(fù)雜需求，并將其導(dǎo)向大模型。

邊緣算力堪稱AI觸及萬千場景的“毛細(xì)血管”?！霸?邊”一體（云計算和邊緣計算有機(jī)結(jié)合）正是AI應(yīng)用閉環(huán)的必由之路，邊緣側(cè)需求的釋放將開啟“真AIoT”時代。

中航證券認(rèn)為，以云計算為基礎(chǔ)的大模型架構(gòu)在企業(yè)或者行業(yè)應(yīng)用落地中，牽涉到場景細(xì)分、 云算力瓶頸、傳輸時效、海量數(shù)據(jù)、信息安全等因素，其集中式技術(shù)架構(gòu)并不能滿足人工智能普遍部署實踐。

因此，AI應(yīng)用將逐步從中心節(jié)點向更貼近數(shù)據(jù)源和業(yè)務(wù)現(xiàn)場的邊緣側(cè)拓展，邊緣計算合理利用邊緣側(cè)算力和實時數(shù)據(jù)，使機(jī)器學(xué)習(xí)模型提供的智能服務(wù)更加便捷和貼近應(yīng)用，有望打通行業(yè)細(xì)分、多元化場景落地瓶頸。 ?
?

審核編輯：劉清