【AIBOX】裝在小盒子的AI足夠強嗎？
Firefly推出大語言模型本地部署的產(chǎn)品：AIBOX-1684X，目前已適配主流的大語言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的實機演示：ChatGLM3-6B采用更多元的訓(xùn)練數(shù)據(jù)和策略，在不同角度的數(shù)據(jù)集，采用了全新設(shè)計的Prompt格式，支持工具調(diào)用(Function Call)、代碼執(zhí)行(Code Interpreter)和Agent任務(wù)等復(fù)雜場景
性能實測結(jié)果
更強大的基礎(chǔ)模型
ChatGLM3-6B (Base) 在選取的8個中英文典型數(shù)據(jù)集中進行性能測試：
在語義、數(shù)學(xué)、推理、代碼、知識等不同角度的數(shù)據(jù)集上測評顯示，ChatGLM3-6B-Base具有在10B以下的基礎(chǔ)模型中最強的性能
更全面的開源序列
除了對話模型ChatGLM3-6B外，還開源了基礎(chǔ)模型ChatGLM3-6B-Base、長文本對話模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench評測集上對模型進行測試：
在多個長文本應(yīng)用場景下的估測試中，與二代模型相比，其效果平均提升程度大于50%。在論文閱讀、文檔摘要和財報分析等應(yīng)用中，提升尤為顯著
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
AI
+關(guān)注
關(guān)注
91文章
39795瀏覽量
301456 -
語言模型
+關(guān)注
關(guān)注
0文章
571瀏覽量
11319 -
Firefly
+關(guān)注
關(guān)注
2文章
547瀏覽量
9117
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
龍芯中科3B6000M芯片成功部署OpenClaw開源AI智能體
3B6000M 芯片的“小盒子”，成功完成了 OpenClaw 的本地化部署。這不僅意味著國產(chǎn)芯片在 AI 算力適配上的重大突破，更讓“低成本、高安全”的本地 AI 數(shù)字員工成為觸手可及的現(xiàn)實。
華陽通用AIBOX車載AI計算平臺獲得國內(nèi)頭部自主品牌車企項目定點
近日，由ADAYO華陽集團旗下全資子公司華陽通用推出的華陽AIBOX高性能車載AI計算平臺，獲得國內(nèi)頭部自主品牌車企的核心智能化項目定點。該項目的落地，標(biāo)志著端側(cè)大模型在前裝量產(chǎn)場景中的應(yīng)用邁出關(guān)鍵一步，也為獨立車載AI
中科創(chuàng)達量產(chǎn)版AIBOX-N1亮相CES 2026
在2026國際消費電子展（CES）現(xiàn)場，中科創(chuàng)達圍繞“AI定義汽車”核心趨勢，正式亮相基于NVIDIA Drive AGX Orin打造的量產(chǎn)版AIBOX-N1。當(dāng)前，該產(chǎn)品已具備向主機廠批量供貨的能力，這也標(biāo)志著智能汽車AI大
如何用FCU3501 AI邊緣計算盒子，打造智慧工廠的視覺分析核心？
飛凌嵌入式FCU3501 AI邊緣計算盒子，憑借“高可靠架構(gòu)、強算力支撐、零門檻部署”的多重優(yōu)勢，能夠為深陷轉(zhuǎn)型困境的行業(yè)打造智慧工廠視覺質(zhì)檢與安全生產(chǎn)一體化系統(tǒng)，成為突破困局的關(guān)鍵動能。
低成本AI邊緣計算盒子DIY：基于迅為RK3568和開源模型，輕松玩轉(zhuǎn)智能識別
低成本AI邊緣計算盒子DIY：基于迅為RK3568和開源模型，輕松玩轉(zhuǎn)智能識別
國產(chǎn)超新星｜EA500I PRO智能工作站：小盒子大能量，千元級解鎖大模型
隨著AI從小模型向大模型的加速滲透，算力已成為企業(yè)構(gòu)建智算能力的核心關(guān)鍵。對于渴望切入AI賽道的中小企業(yè)，既具備成本優(yōu)勢又能快速部署的邊緣計算盒子，無疑是理想的選擇；但市場上超100T算力的邊緣計算
一文了解ai計算盒子（邊緣計算盒子）是到底是什么產(chǎn)品？
在物聯(lián)網(wǎng)與人工智能深度融合的當(dāng)下，數(shù)據(jù)處理的效率和實時性成為各行業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵。ai計算盒子（又稱邊緣計算盒子、ai邊緣計算盒子）作為連
AI邊緣計算盒子連接不同的傳感器，分別能實現(xiàn)什么功能？
AI邊緣計算盒子也被稱作“邊緣計算服務(wù)器”或“邊緣計算網(wǎng)關(guān)”，它能夠?qū)崿F(xiàn)數(shù)據(jù)的實時采集、高效處理和智能分析，更能連接各種傳感器，實現(xiàn)更多與周圍環(huán)境相關(guān)的智能互動，延伸更多的功能。下面就讓天波小編為
中科創(chuàng)達與吉利汽車、NVIDIA聯(lián)合發(fā)布創(chuàng)新產(chǎn)品AIBOX
產(chǎn)品AIBOX。該方案依托中科創(chuàng)達滴水AIOS和NVIDIA DRIVE AGX車載計算平臺，首次實現(xiàn)7B大模型在車端實時流暢運行，打造了真正的AI座艙，標(biāo)志著汽車產(chǎn)業(yè)正式進入AI大模型實車量產(chǎn)時代。
產(chǎn)品案例 | 遛“狗”新方式，盒子來幫忙
當(dāng)一只機器狗被一個巴掌大的小盒子操控，躲避障礙、跟隨指令完成轉(zhuǎn)身、停止等動作時，圍觀人群紛紛發(fā)出驚嘆：“這么小的盒子，居然能‘溜’機器狗？”。這個“小盒子”，正是機器狗的“智慧大腦”，它憑借強大
邊緣AI盒子技術(shù)解析：ASIC/FPGA/GPU芯片及邊緣-云端協(xié)同與自適應(yīng)推理
? 電子發(fā)燒友網(wǎng)綜合報道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數(shù)據(jù)處理能力的硬件設(shè)備，部署在數(shù)據(jù)源的邊緣側(cè)，如工廠、商場、交通路口等，能在本地進行數(shù)據(jù)采集、預(yù)處理、分析和決策，無需將所有
AIBOX 產(chǎn)品矩陣：支持主流大模型的私有化部署，滿足個性化 AI 應(yīng)用需求
AIBOX系列產(chǎn)品具備高性能、低功耗、環(huán)境適應(yīng)性強等特點，算力覆蓋6-157TOPS，通過搭配多樣化深度學(xué)習(xí)算法，體積小巧，能夠支持主流大模型的私有化部署，為多個智慧行業(yè)進行數(shù)字化賦能。目前
傳統(tǒng)攝像頭為什么需要升級為AI盒子？多場景痛點解析
在安防監(jiān)控、智慧零售、工業(yè)檢測等領(lǐng)域，傳統(tǒng)攝像頭長期以來承擔(dān)著視頻采集的任務(wù)，但隨著AI技術(shù)的快速發(fā)展，單純依賴“看得見”的攝像頭已無法滿足智能化需求。AI盒子（智能視頻分析終端）的出現(xiàn)，讓傳統(tǒng)監(jiān)控
AIBOX 新成員，搭載 RK3588S 芯片全新上線
AIBOX產(chǎn)品矩陣再添新成員——AIBOX-3588S，支持AI大模型私有化部署，支持32GBLPDDR5超大內(nèi)存，廣泛適用于邊緣計算、大模型私有化部署、智能安防、智能家居、智能工業(yè)等領(lǐng)域。八核
自制1個指紋保險箱，不到100元就能擁有！
| 實用至上，點亮便利生活，此前就一直想著給小朋友做一個小盒子，正好借這個機會忙里偷閑參與到活動當(dāng)中，再體驗一下電子 DIY 的樂趣。 本次制作了一個稍微實用價值的指紋開鎖小盒子，旨在為日常生活中的物品收納提供更安全、便捷的解決方案。 1、設(shè)計
工商網(wǎng)監(jiān)
評論