本周初，騰訊混元宣布開(kāi)源四款小尺寸模型（參數(shù)分別為 0.5B、1.8B、4B、7B），可無(wú)縫運(yùn)行于消費(fèi)級(jí)顯卡上。作為全球應(yīng)用范圍最為廣泛的計(jì)算平臺(tái)，Arm 在開(kāi)源首日就已率先實(shí)現(xiàn)適配，攜手合作伙伴共同賦能端側(cè)人工智能 (AI) 部署，助力本土開(kāi)發(fā)者實(shí)現(xiàn) AI 應(yīng)用創(chuàng)新！

這次的首日開(kāi)源適配是雙方再次攜手提升端側(cè)應(yīng)用功能和用戶體驗(yàn)的又一例證。去年，Arm 將 Arm KleidiAI 技術(shù)與騰訊混元自研的 Angel 機(jī)器學(xué)習(xí)框架進(jìn)行集成，從而提高移動(dòng)端 AI 服務(wù)的推理性能和效率。得益于這一集成，混元大模型的預(yù)填充部分加速了 100%，而解碼器的速度提高了 10%。

此次騰訊混元開(kāi)源的四款模型可適用于筆記本電腦、手機(jī)、智能座艙、智能家居等低功耗場(chǎng)景，且支持垂直領(lǐng)域低成本微調(diào)，為開(kāi)發(fā)者和企業(yè)提供更多尺寸的模型選擇。四款模型均實(shí)現(xiàn)了對(duì)標(biāo)業(yè)界同尺寸模型的性能表現(xiàn)，特別是在語(yǔ)言理解、數(shù)學(xué)、推理等領(lǐng)域尤為突出。目前，四款模型均已在 Github 和 Huggingface 等開(kāi)源社區(qū)上線。

此外，對(duì)于開(kāi)源方面的投入，雙方秉持同樣的熱忱，開(kāi)源是騰訊混元大模型長(zhǎng)期堅(jiān)持的方向，而 Arm 則在開(kāi)源項(xiàng)目的支持上投入了大量的工程資源，并不斷地?cái)U(kuò)大開(kāi)源合作伙伴協(xié)作，致力于為全球超過(guò) 2,200 萬(wàn)基于 Arm 平臺(tái)開(kāi)發(fā)的開(kāi)發(fā)者提供更多的獲取資源和更高的性能，助力實(shí)現(xiàn) AI 無(wú)處不在！

展望未來(lái)，Arm 將繼續(xù)通過(guò)開(kāi)源合作與技術(shù)創(chuàng)新，持續(xù)賦能開(kāi)發(fā)者無(wú)縫獲取底層硬件性能，進(jìn)而實(shí)現(xiàn)更順暢的創(chuàng)新開(kāi)發(fā)，并攜手合作伙伴構(gòu)筑更加繁榮的開(kāi)源生態(tài)，加速應(yīng)用落地。