91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

LLaVA、RWKV、Qwen3... 移遠(yuǎn)端側(cè)AI大模型解決方案實現(xiàn)多維度躍遷

移遠(yuǎn)通信 ? 2025-06-23 19:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


當(dāng)AI以破竹之勢席卷千行百業(yè),大模型技術(shù)正以驚人的速度迭代演進,重塑著智能世界的底層邏輯。


作為全球AIoT行業(yè)的引領(lǐng)者,移遠(yuǎn)通信通過持續(xù)迭代和探索,在端側(cè)大模型解決方案上完成“三級跳”——在多模態(tài)感知、架構(gòu)創(chuàng)新、模型兼容性三大核心維度實現(xiàn)跨越式突破,不僅重新定義了終端設(shè)備的智能化邊界,更為AI普惠化落地開辟了全新路徑。近日,移遠(yuǎn)基于SG885G AI 算力模組的端側(cè)大模型解決方案,已成功運行LLaVA-7B、RWKV7、Qwen3-4B等大模型。




感知維度升級:引領(lǐng)多模態(tài)交互新范式


在智能終端的世界里,單一的語音對話或圖像識別,已無法滿足復(fù)雜場景的需求,多模態(tài)感知才是未來趨勢。移遠(yuǎn)通信敏銳捕捉行業(yè)發(fā)展脈絡(luò),在感知維度上持續(xù)創(chuàng)新,打造出“超級感官系統(tǒng)”,并不斷取得技術(shù)及應(yīng)用突破。


40155316-5022-11f0-986f-92fbcf53809c.jpg


自端側(cè)大模型解決方案發(fā)布以來,移遠(yuǎn)通信基于全語音鏈路的方案已在德壹機器人項目中順利落地,賦予機器人“能說會道”的本領(lǐng),使其語音交互能力更加自然、流暢。


近日,移遠(yuǎn)成功在其SG885G模組上部署7B參數(shù)多模態(tài)大模型LLaVA,讓移動端擁有“火眼金睛”,實現(xiàn)實時物體識別與場景理解,完成了感知維度的再次重大升級。這一突破,讓移遠(yuǎn)成為業(yè)界首個提供端側(cè)全模態(tài)感知解決方案的模組廠商。


值得一提的是,移遠(yuǎn)還通過架構(gòu)級創(chuàng)新,實現(xiàn)了文本、語音、視覺三大模態(tài)的深度融合。這種融合并非簡單的功能疊加,而是從底層架構(gòu)出發(fā),讓不同模態(tài)的信息能夠相互補充、相互促進,形成更全面、更準(zhǔn)確的認(rèn)知能力,使得客戶終端能夠在復(fù)雜的實際場景中實現(xiàn)更智能、更高效的交互。


架構(gòu)創(chuàng)新探索:開辟端側(cè)AI計算新維度


在Transformer架構(gòu)主導(dǎo)大模型領(lǐng)域的當(dāng)下,移遠(yuǎn)通信以前瞻性的眼光,積極布局非Transformer的技術(shù)路線,致力于為客戶提供更低算力、更少內(nèi)存消耗的解決方案。


日前,移遠(yuǎn)SG885G模組已實現(xiàn)成功運行RWKV7模型。RWKV(Receptance Weighted Key-Value)是一種極具創(chuàng)新性的神經(jīng)網(wǎng)絡(luò)架構(gòu),巧妙地融合了循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的訓(xùn)練效率與Transformer的建模能力。其核心設(shè)計在于通過線性注意力機制取代傳統(tǒng)Transformer的自注意力,這一改進有效解決了長序列處理中的計算瓶頸問題,同時還支持高效推理與并行訓(xùn)練,在計算效率和模型性能之間取得了良好的平衡。


RWKV架構(gòu)在多語言處理、小說創(chuàng)作、長期記憶保持等多個領(lǐng)域表現(xiàn)出色,展現(xiàn)出了廣泛的應(yīng)用前景。移遠(yuǎn)通信成功將其部署在端側(cè)模組上,意味著對于算力和內(nèi)存資源有限的“小身板”終端設(shè)備,也能擁有強大的AI“大心臟”。



模型生態(tài)擴容:構(gòu)建端側(cè)大模型“超級平臺”


在模型兼容性方面,移遠(yuǎn)通信構(gòu)建了覆蓋主流開源模型的端側(cè)適配體系,打造出了功能強大的端側(cè)大模型“超級平臺”。從Llama到通義千問,再到DeepSeek,移遠(yuǎn)率先完成了對主流開源模型的全方位兼容,覆蓋參數(shù)規(guī)模從0.5B到8B,為不同場景的智能終端提供了豐富的模型選擇。


例如,移遠(yuǎn)通信在其SG885G AI算力模組上,成功實現(xiàn)Qwen3-4B模型的穩(wěn)定運行,并對模型架構(gòu)和運行環(huán)境進行深度優(yōu)化。實測數(shù)據(jù)顯示,相比Qwen2.5,優(yōu)化后的Qwen3-4B模型,其平均響應(yīng)延遲降低了40%,交互體驗直線升級。


站在AI技術(shù)變革的潮頭,移遠(yuǎn)通信始終堅信:未來的智能,不應(yīng)局限于云端的數(shù)據(jù)中心,而應(yīng)該廣泛存在于每個終端、每個場景、每個人的掌心。通過持續(xù)的技術(shù)深耕與生態(tài)共建,移遠(yuǎn)通信正攜手合作伙伴,讓端側(cè)大模型成為智能時代的“新基建”,推動AI技術(shù)在更廣闊的領(lǐng)域?qū)崿F(xiàn)普惠化應(yīng)用。


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1817

    文章

    50094

    瀏覽量

    265278
  • AIoT
    +關(guān)注

    關(guān)注

    8

    文章

    1642

    瀏覽量

    34116
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    398

    瀏覽量

    998
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    美格智能高算力AI模組+Qwen3.5,打造端側(cè)最強AI智能體

    在人工智能技術(shù)飛速迭代的今天,大模型的“云端爭霸”已漸入深水區(qū),而一場關(guān)于“端側(cè)智能”的靜默革命正悄然興起。隨著Qwen3.5等高性能開源模型的問世,
    的頭像 發(fā)表于 02-27 08:33 ?350次閱讀
    美格智能高算力<b class='flag-5'>AI</b>模組+<b class='flag-5'>Qwen</b>3.5,打造端<b class='flag-5'>側(cè)</b>最強<b class='flag-5'>AI</b>智能體

    基于米爾瑞芯微RK3576開發(fā)板的Qwen2-VL-3B模型NPU多模態(tài)部署評測

    準(zhǔn)確率任務(wù)。 未來,RK3576“算力精準(zhǔn)匹配場景”的設(shè)計理念或成中端AIoT核心方向,其在多維度的平衡,為端側(cè)AI部署提供高性價比選擇,助力邊緣計算規(guī)?;瘧?yīng)用。RK3576 工作狀態(tài)? 參考資料[1
    發(fā)表于 08-29 18:08

    阿里通義千問發(fā)布小尺寸模型Qwen3-4B,手機也能跑

    Qwen3-30B-A3B(thinking)。官方表示,2507版本的Qwen3-4B模型對手機等端側(cè)硬件部署尤為友好。 ? ? 隨著AI
    的頭像 發(fā)表于 08-12 17:15 ?6708次閱讀
    阿里通義千問發(fā)布小尺寸<b class='flag-5'>模型</b><b class='flag-5'>Qwen3</b>-4B,手機也能跑

    側(cè)模型迎來“輕”革命!遠(yuǎn)通信 × RWKV 打造“輕量AI大腦”

    (WAIC)首次亮相,標(biāo)志著端側(cè)模型解決方案向更高性能、更廣場景的應(yīng)用邁出關(guān)鍵一步。RWKV(ReceptanceWeightedKeyValue)是全球領(lǐng)先的RN
    的頭像 發(fā)表于 07-27 19:02 ?989次閱讀
    端<b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>迎來“輕”革命!<b class='flag-5'>移</b>遠(yuǎn)通信 × <b class='flag-5'>RWKV</b> 打造“輕量<b class='flag-5'>AI</b>大腦”

    從端側(cè)AI到全鏈路解決方案遠(yuǎn)通信如何重塑AloT產(chǎn)業(yè)?

    的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,遠(yuǎn)通信受邀出席峰會并發(fā)表兩場演講,圍繞端側(cè)AI、云端AI以及AI
    的頭像 發(fā)表于 07-05 19:04 ?1729次閱讀
    從端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>到全鏈路<b class='flag-5'>解決方案</b>:<b class='flag-5'>移</b>遠(yuǎn)通信如何重塑AloT產(chǎn)業(yè)?

    廣和通加速通義千問Qwen3在端側(cè)全面落地

    6月,廣和通宣布:率先完成通義千問Qwen3系列混合推理模型在高通QCS8550平臺端側(cè)的適配部署。廣和通通過定制化混合精度量化方案與創(chuàng)新硬件加速算法,成功突破
    的頭像 發(fā)表于 06-25 15:35 ?1127次閱讀

    壁仞科技完成Qwen3旗艦模型適配

    近日,在高效適配Qwen3系列模型推理后,壁仞科技宣布完成旗艦版Qwen3-235B-A22B模型的訓(xùn)練適配和優(yōu)化。由此,壁仞科技已實現(xiàn)
    的頭像 發(fā)表于 05-16 16:23 ?979次閱讀

    Arm CPU適配通義千問Qwen3系列模型

    與阿里巴巴開源的輕量級深度學(xué)習(xí)框架 MNN 已深度集成。得益于此,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型能夠在搭載 Arm 架構(gòu) CPU 的移動設(shè)
    的頭像 發(fā)表于 05-12 16:37 ?1444次閱讀

    后摩智能NPU適配通義千問Qwen3系列模型

    近日,阿里云重磅推出Qwen3 系列開源混合推理模型。用時不到1天,后摩智能自研NPU迅速實現(xiàn)Qwen3 系列模型
    的頭像 發(fā)表于 05-07 16:46 ?1380次閱讀

    在openEuler上基于vLLM Ascend部署Qwen3

    近日,阿里巴巴正式發(fā)布新一代Qwen大語言模型系列(Qwen3Qwen3-MoE),在模型規(guī)模與性能上
    的頭像 發(fā)表于 05-07 14:44 ?1834次閱讀
    在openEuler上基于vLLM Ascend部署<b class='flag-5'>Qwen3</b>

    壁仞科技完成阿里巴巴通義千問Qwen3全系列模型支持

    4月29日,阿里巴巴通義千問發(fā)布并開源8款新版Qwen3系列“混合推理模型”(簡稱“Qwen3”)。Qwen3發(fā)布后數(shù)小時內(nèi),壁仞科技完成全系列支持,并率先在壁仞科技開發(fā)者云平臺上線。
    的頭像 發(fā)表于 04-30 15:19 ?1583次閱讀

    首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來了全面升級的天璣AI開發(fā)套件2.0,在模型庫規(guī)模、架構(gòu)開放程度、前沿端側(cè)AI技術(shù)支持和端側(cè)LoRA訓(xùn)練落地等方面均迎來全面
    發(fā)表于 04-13 19:52

    AI模型端側(cè)部署正當(dāng)時:遠(yuǎn)端側(cè)AI模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向端側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,
    發(fā)表于 03-27 11:26 ?566次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>端側(cè)部署正當(dāng)時:<b class='flag-5'>移</b><b class='flag-5'>遠(yuǎn)端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>解決方案</b>,激活場景智能新范式

    AI模型端側(cè)部署正當(dāng)時:遠(yuǎn)端側(cè)AI模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向端側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,
    的頭像 發(fā)表于 03-26 19:05 ?1255次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>端側(cè)部署正當(dāng)時:<b class='flag-5'>移</b><b class='flag-5'>遠(yuǎn)端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>解決方案</b>,激活場景智能新范式

    側(cè)AI模組再進化!遠(yuǎn)通信和美格智能在MWC如何放大招?

    ? 電子發(fā)燒友原創(chuàng) 章鷹 33日到5日,世界移動通訊大會在西班牙巴塞羅那會議中心舉辦,今年,端側(cè)AI終端在DeepSeek大模型的加持下,
    的頭像 發(fā)表于 03-09 04:33 ?2874次閱讀
    端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>模組再進化!<b class='flag-5'>移</b>遠(yuǎn)通信和美格智能在MWC如何放大招?