要點

高通計劃從2024年起，在旗艦智能手機和PC上支持基于Llama 2的AI部署，賦能開發(fā)者使用驍龍平臺的AI能力，推出激動人心的全新生成式AI應用。

與僅僅使用云端AI部署和服務(wù)相比，終端側(cè)AI部署能夠助力開發(fā)者以顯著降低的成本，提升用戶隱私保護、滿足用戶安全偏好、增強應用可靠性，并實現(xiàn)個性化。

高通技術(shù)公司和Meta正在合作優(yōu)化Meta Llama 2大語言模型直接在終端側(cè)的執(zhí)行，無需僅依賴云服務(wù)。能夠在智能手機、PC、VR/AR頭顯和汽車等終端上運行Llama 2一類的生成式AI模型，將支持開發(fā)者節(jié)省云成本，并為用戶提供更加私密、可靠和個性化的體驗。

因此，高通技術(shù)公司計劃支持基于Llama 2的終端側(cè)AI部署，以賦能打造激動人心的全新AI應用。這將支持客戶、合作伙伴和開發(fā)者構(gòu)建智能虛擬助手、生產(chǎn)力應用、內(nèi)容創(chuàng)作工具和娛樂等用例。這些由驍龍賦能的全新終端側(cè)AI體驗，可在沒有網(wǎng)絡(luò)連接的區(qū)域、甚至是飛行模式下工作。

高通技術(shù)公司高級副總裁兼技術(shù)、規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示：

我們十分贊賞Meta對于AI技術(shù)采取的開放且負責的策略。高通技術(shù)公司致力于推動創(chuàng)新，通過將生成式AI引入終端側(cè)，將為各種規(guī)模的開發(fā)者降低開發(fā)門檻。為了將生成式AI有效地規(guī)模化擴展至主流市場，AI需要同時在云端和邊緣終端上運行，比如智能手機、筆記本電腦、汽車和物聯(lián)網(wǎng)終端。

Meta和高通技術(shù)公司長期合作，共同推動技術(shù)創(chuàng)新，打造下一代卓越終端體驗。雙方目前在支持Llama生態(tài)系統(tǒng)方面的合作，覆蓋了研究和產(chǎn)品工程技術(shù)工作。憑借終端側(cè)AI的領(lǐng)導力，高通技術(shù)公司在支持Llama生態(tài)系統(tǒng)方面具備獨特優(yōu)勢。公司擁有領(lǐng)先的邊緣側(cè)布局，其行業(yè)領(lǐng)先的AI硬件和軟件解決方案賦能了數(shù)十億智能手機、汽車、XR頭顯與眼鏡、PC和物聯(lián)網(wǎng)等終端，為生成式AI的規(guī)模化擴展提供了廣闊機遇。

高通技術(shù)公司計劃從2024年起，在搭載驍龍平臺的終端上支持基于Llama 2的AI部署?，F(xiàn)在開發(fā)者可以開始使用高通AI軟件棧面向終端側(cè)AI進行應用優(yōu)化。高通AI軟件棧是一套支持在驍龍平臺上更高效處理AI的專用工具，讓輕薄的小型終端也能支持終端側(cè)AI。

審核編輯：湯梓紅