廣和通要聞

11月20日，廣和通創(chuàng)新發(fā)布AI Dongle解決方案，為個人PC、NAS等設(shè)備提供移動AI算力支持。該方案內(nèi)置高性能、低功耗NPU，使得終端在邊緣側(cè)即可進行LLM大模型實時推理任務(wù)，為問答助手、以文搜圖、會議紀要總結(jié)等協(xié)同辦公等邊緣應(yīng)用提供AI功能。

即插即用的AI體驗

AI Dongle解決方案專注于解決邊緣設(shè)備在實時推理、數(shù)據(jù)隱私和能效優(yōu)化等多方面挑戰(zhàn)。通過USB接口供電和數(shù)據(jù)傳輸，AI Dongle便攜易用、免驅(qū)免配置，可實現(xiàn)即插即用，將AI推理能力帶到任何具有USB接口的設(shè)備。

數(shù)據(jù)隱私保護是AI Dongle的另一大優(yōu)勢，通過端側(cè)處理，敏感數(shù)據(jù)可以保存在本地，無需上傳至云端，特別適用于智能會議、個人助理等涉及隱私的場景。

AI Dongle目前提供12TOPS算力，后續(xù)，根據(jù)差異化應(yīng)用場景，AI Dongle可提供不同的算力配置，滿足從輕量化AI任務(wù)到復雜大模型推理的多樣化需求。廣和通不僅提供端側(cè)算力，還基于自研Fibocom AI Stack，通過OpenAI API接口接入主流模型，應(yīng)用開發(fā)者只需簡單配置即可調(diào)用端側(cè)模型和算力。

從PC到NAS的全面賦能

通過插入普通電腦的USB接口，AI Dongle能夠為智能會議系統(tǒng)等應(yīng)用提供強大的AI算力支持，即使在斷網(wǎng)環(huán)境下也能實現(xiàn)多語種實時翻譯和會議紀要生成。

面向AI應(yīng)用開發(fā)者，這一解決方案大大降低了開發(fā)門檻。開發(fā)者無需購買昂貴的專用AI工作站，只需將AI Dongle插入現(xiàn)有電腦，就能獲得強大的AI推理算力，用于模型調(diào)試和應(yīng)用開發(fā)。創(chuàng)意工作者則利用AI Dongle為圖像處理、視頻剪輯等軟件中的AI加速插件提供額外的計算能力，顯著提升工作效率。

當AI Dongle與網(wǎng)絡(luò)附屬存儲（NAS）設(shè)備結(jié)合，既能提供集中存儲的空間，又具備了專門的AI計算能力。AI Dongle與NAS結(jié)合特別適合智能家居和安防場景，可以對存儲在本地的監(jiān)控視頻進行實時分析，實現(xiàn)人臉識別、行為檢測等功能，同時確保數(shù)據(jù)隱私。對于中小企業(yè)協(xié)同辦公，NAS+AI Dongle的解決方案能夠提供安全且高效的內(nèi)容管理與處理能力，支持文檔分析、智能分類等應(yīng)用。在科研和邊緣計算領(lǐng)域，這一組合提供了數(shù)據(jù)本地處理與分析的理想平臺，既保障了研究數(shù)據(jù)的安全，又降低了云端傳輸?shù)呢摀脱舆t。

靈活拓展至更多應(yīng)用

目前，廣和通提供了兩個DEMO應(yīng)用，包括知識問答、音視頻轉(zhuǎn)寫總結(jié)，后續(xù)將推出本地知識庫應(yīng)用。AI Dongle解決方案即將適配騰訊Youtu-Agent等開源智能體框架，助力用戶更便捷地利用騰訊優(yōu)圖技術(shù)，在AI Dongle上開發(fā)出強大的視覺處理或智能交互類應(yīng)用。

廣和通AIS事業(yè)部總經(jīng)理劉子威表示：“AI Dongle將加速AI融合各類智能終端，提供便攜易用、高拓展性的AI+解決方案。廣和通將積極與端側(cè)AI產(chǎn)業(yè)鏈合作，探索更多元化的AI算力拓展方案，助力更多產(chǎn)業(yè)智能化升級?！?/p>

廣和通始創(chuàng)于1999年，是中國首家A+H股上市的無線通信模組企業(yè)（300638.SZ|0638.HK）。廣和通以無線通信與人工智能為技術(shù)底座，提供軟硬件一體、賦能行業(yè)應(yīng)用的全棧式解決方案，加速千行百業(yè)從“萬物互聯(lián)”到“萬物智聯(lián)”。廣和通全棧式解決方案覆蓋蜂窩通信、AI、車載、GNSS模組及AI工具鏈，支持行業(yè)端側(cè)和主流大模型接入，提供智能體、全球資費與云服務(wù)，助力智能機器人、消費電子、低空經(jīng)濟、智能駕駛、智慧零售及智慧能源等行業(yè)數(shù)智化升級。