LLM630

LLM推理，視覺識別，可開發(fā)，靈活擴(kuò)展

LLM630 Compute Kit是一款 AI 大語言模型推理開發(fā)平臺，專為邊緣計算和智能交互應(yīng)用而設(shè)計。該套件的主板搭載愛芯AX630CSoC 處理器，集成了 3.2 TOPs@INT8 算力的高能效 NPU，提供強(qiáng)大的 AI 推理能力，能夠高效執(zhí)行復(fù)雜的視覺(CV)及大語言模型(LLM)任務(wù)，滿足各類智能應(yīng)用場景的需求。主板同時配備 JL2101-N040C 千兆網(wǎng)口芯片 和 ESP32-C6 無線通信芯片，支持 Wi-Fi 6@2.4G，用作設(shè)備的網(wǎng)卡，提供高速數(shù)據(jù)傳輸能力，實現(xiàn) Wi-Fi 和以太網(wǎng)的橋接功能。無論是通過有線連接進(jìn)行大規(guī)模數(shù)據(jù)交換，還是通過無線通信與遠(yuǎn)程服務(wù)器或其他智能設(shè)備進(jìn)行實時互動，該平臺都能確保高效的數(shù)據(jù)交互。主板還集成了 SMA 天線接口，進(jìn)一步增強(qiáng)無線信號的穩(wěn)定性和傳輸距離，確保在復(fù)雜網(wǎng)絡(luò)環(huán)境下的穩(wěn)定通信。內(nèi)置 4GB LPDDR4 內(nèi)存（其中 2GB 供用戶使用，2GB 專用于硬件加速）和 32GB eMMC 存儲，支持多模型并行加載與推理，確保任務(wù)處理高效順暢。

與主板完美配合的底板大幅擴(kuò)展了LLM630 Compute Kit的功能性和適用性。它集成了BMI270 六軸傳感器，提供精準(zhǔn)的姿態(tài)感應(yīng)和運(yùn)動檢測能力，適用于各種動態(tài)應(yīng)用。內(nèi)置的NS4150B D類功放以及麥克風(fēng)和揚(yáng)聲器接口支持高質(zhì)量的語音輸入和音頻輸出，實現(xiàn)全雙工通信模式，增強(qiáng)用戶交互體驗。底板還配備了雙 Grove 接口及LCD/DSI和CAM/CSI MIPI 接口，便于擴(kuò)展外設(shè)如顯示屏和攝像頭模塊。同時，底板集成了外接天線接口和一個 千兆網(wǎng)口，為設(shè)備提供靈活的網(wǎng)絡(luò)連接和增強(qiáng)的無線性能。此外，設(shè)備用戶按鍵實現(xiàn)開關(guān)機(jī)和模式切換等功能，提高了設(shè)備的易用性和交互性。

底板的充電芯片和預(yù)留電池插座支持自定義電池配置，確保平臺即使在無外部電源時也能長時間穩(wěn)定運(yùn)行。集成的電量檢測芯片實時監(jiān)控電池狀態(tài)。MicroSD 卡槽支持存儲擴(kuò)展，以及后續(xù)將支持的AI模型更新功能。雙Type-C接口不僅支持高效的數(shù)據(jù)傳輸，還提供OTG功能，使設(shè)備連接更加靈活，確保數(shù)據(jù)交換和設(shè)備連接的高效率。

LLM630 Compute Kit 支持StackFlow 框架，開發(fā)者可以輕松通過幾行代碼實現(xiàn)邊緣智能應(yīng)用，快速啟動各種 AI 任務(wù)。平臺支持多種 AI 應(yīng)用，包括視覺識別，語音識別、文本轉(zhuǎn)語音和喚醒詞識別等功能，并支持分開調(diào)用或 pipeline 自動流轉(zhuǎn)，方便開發(fā)。平臺還支持 Yolo11 DepthAnything 等視覺模型，InternVL2.5-1B 多模態(tài)大模型，Qwen2.5-0.5/1.5B Llama3.2-1B 大語言模型和 Whisper Melotts 語音模型等，支持熱更新，后續(xù)將持續(xù)支持最先進(jìn)的熱門的大模型，賦能智能識別與分析，確保平臺緊跟技術(shù)發(fā)展和社區(qū)潮流。

LLM630 Compute Kit 適用于長時間運(yùn)行的智能設(shè)備，廣泛應(yīng)用于安防監(jiān)控，智能銷售，智能農(nóng)業(yè)，智能家居控制，互動機(jī)器人和教育等領(lǐng)域，能夠為邊緣智能應(yīng)用提供強(qiáng)大的計算能力與靈活的擴(kuò)展性。