91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

搜索歷史

清空
搜索熱詞
      0
      • 聊天消息
      • 系統(tǒng)消息
      • 評(píng)論與回復(fù)
      VIP于 到期 續(xù)費(fèi)
      登錄后你可以
      • 下載海量資料
      • 學(xué)習(xí)在線課程
      • 觀看技術(shù)視頻
      • 寫(xiě)文章/發(fā)帖/加入社區(qū)
      會(huì)員中心
      創(chuàng)作中心
      發(fā)布
      創(chuàng)作活動(dòng)

      完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>

      3天內(nèi)不再提示

      如何在邊緣端獲得GPT4-V的能力：算力魔方+MiniCPM-V 2.6

      jf_23871869 ? 來(lái)源：劉力 ? 作者：劉力 ? 2025-01-20 13:40 ? 次閱讀
      加入交流群
      微信小助手二維碼

      掃碼添加小助手

      加入工程師交流群

      作者：算力魔方創(chuàng)始人/英特爾邊緣計(jì)算創(chuàng)新大使 劉力

      前面我們分享了《在算力魔方上本地部署Phi-4模型》，實(shí)現(xiàn)了在邊緣端獲得Llama 3.3 70B模型差不多的能力。本文將分享，在邊緣端獲得類似GPT4-V的能力：MiniCPM-V 2.6 。

      MiniCPM-V 2.6是MiniCPM-V系列最新、性能最佳的模型，基于SigLip-400M和Qwen2-7B構(gòu)建，共8B參數(shù)。在最新版本 OpenCompass 榜單上（綜合 8 個(gè)主流多模態(tài)評(píng)測(cè)基準(zhǔn)）平均得分 65.2，以8B量級(jí)的大小在單圖理解方面超越了 GPT-4o mini、GPT-4V、Gemini 1.5 Pro 和 Claude 3.5 Sonnet等主流商用閉源多模態(tài)大模型。

      參考鏈接：OpenBMB/MiniCPM-o: MiniCPM-o 2.6: A GPT-4o Level MLLM for Vision, Speech and Multimodal Live Streaming on Your Phone

      本文將分享MiniCPM-V 2.6 8B模型在算力魔方?4060版上的部署過(guò)程。

      一，安裝Ollama

      請(qǐng)按照《Gemma 2+Ollama在算力魔方上幫你在LeetCode解題》安裝Ollama。

      wKgZPGeN4ZmAbidVAAOb9VbdaNY205.png

      二，運(yùn)行MiniCPM-V 2.6

      使用下面的命令完成運(yùn)行MiniCPM-V 2.6：

      ollamarunminicpm-v

      三，體驗(yàn)MiniCPM-V 2.6 多模態(tài)能力

      輸入下面的提示詞和測(cè)試圖片，體驗(yàn)MiniCPM-V 2.6的多模態(tài)能力：

      “請(qǐng)描述并總結(jié)圖片中的內(nèi)容，并提煉出該產(chǎn)品的賣(mài)點(diǎn)?！?/p>

      wKgZO2eN4bOACbVsAANPiPWd52c739.png

      運(yùn)行視頻鏈接

      審核編輯 黃宇

      聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
      • GPT
        GPT
        +關(guān)注

        關(guān)注

        0

        文章

        368

        瀏覽量

        16864
      • 邊緣計(jì)算
        +關(guān)注

        關(guān)注

        22

        文章

        3527

        瀏覽量

        53420
      收藏 人收藏
      加入交流群
      微信小助手二維碼

      掃碼添加小助手

      加入工程師交流群

        評(píng)論

        相關(guān)推薦
        熱點(diǎn)推薦

        算力魔方2025全年技術(shù)精華文章回顧：智驅(qū)萬(wàn)物，方寸之間

        開(kāi)發(fā)者們走過(guò)了不平凡的2026年。這一年，AI大模型參數(shù)量持續(xù)突破，邊緣計(jì)算能力大幅提升，開(kāi)源工具生態(tài)日漸繁榮。 在算力魔方的方寸之間，我們
        的頭像 發(fā)表于 01-05 21:05 ?147次閱讀

        從云端集中到邊緣分布：邊緣智算如何重塑算力網(wǎng)絡(luò)布局

        隨著大模型推理延遲進(jìn)入毫秒級(jí)時(shí)代，整個(gè)科技行業(yè)都意識(shí)到：算力網(wǎng)絡(luò)的規(guī)則正在被改寫(xiě)。這場(chǎng)變革的核心，正是從云端集中式計(jì)算向邊緣分布式智能的范式轉(zhuǎn)移。據(jù)行業(yè)多家分析機(jī)構(gòu)綜合預(yù)測(cè)，全球AI基礎(chǔ)設(shè)施正面
        的頭像 發(fā)表于 12-25 11:34 ?416次閱讀
        從云端集中到<b class='flag-5'>邊緣</b>分布：<b class='flag-5'>邊緣</b>智<b class='flag-5'>算</b>如何重塑<b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)布局

        什么是AI邊緣算力模組？?

        天數(shù)智算AI邊緣算力模組以其多元的產(chǎn)品矩陣、領(lǐng)先的技術(shù)實(shí)力和廣泛的行業(yè)應(yīng)用，正成為推動(dòng)各行業(yè)智能化變革的重要力量。未來(lái)，天數(shù)智算將繼續(xù)深耕
        的頭像 發(fā)表于 12-17 17:09 ?793次閱讀
        什么是AI<b class='flag-5'>邊緣</b><b class='flag-5'>算</b><b class='flag-5'>力</b>模組？?

        解鎖邊緣智能新境界，天數(shù)智算AI邊緣算力模組賦能端側(cè)AI應(yīng)用新篇章?

        在數(shù)字化與智能化飛速發(fā)展的時(shí)代，邊緣計(jì)算正逐漸成為推動(dòng)行業(yè)變革的關(guān)鍵力量。天數(shù)智算緊跟技術(shù)浪潮，精心布局AI邊緣算力模組領(lǐng)域，以強(qiáng)大的產(chǎn)品矩
        的頭像 發(fā)表于 12-12 09:16 ?623次閱讀
        解鎖<b class='flag-5'>邊緣</b>智能新境界，天數(shù)智<b class='flag-5'>算</b>AI<b class='flag-5'>邊緣</b><b class='flag-5'>算</b><b class='flag-5'>力</b>模組賦能<b class='flag-5'>端</b>側(cè)AI應(yīng)用新篇章?

        解鎖邊緣智能新境界，天數(shù)智算AI邊緣算力模組賦能端側(cè)AI應(yīng)用新篇章?

        在數(shù)字化與智能化飛速發(fā)展的時(shí)代，邊緣計(jì)算正逐漸成為推動(dòng)行業(yè)變革的關(guān)鍵力量。天數(shù)智算緊跟技術(shù)浪潮，精心布局AI邊緣算力模組領(lǐng)域，以強(qiáng)大的產(chǎn)品矩
        的頭像 發(fā)表于 12-12 09:15 ?590次閱讀
        解鎖<b class='flag-5'>邊緣</b>智能新境界，天數(shù)智<b class='flag-5'>算</b>AI<b class='flag-5'>邊緣</b><b class='flag-5'>算</b><b class='flag-5'>力</b>模組賦能<b class='flag-5'>端</b>側(cè)AI應(yīng)用新篇章?

        算力湘軍，讓算力變成生產(chǎn)力？

        算力
        腦極體
        發(fā)布于 :2025年11月25日 22:56:58

        天波科普：算力超過(guò)30T的邊緣計(jì)算服務(wù)器可以做什么？

        網(wǎng)關(guān)的能力邊界，也涉及到算力高低。那么，目前邊緣計(jì)算服務(wù)器的算力到多少算高呢？以廣東天波AI
        的頭像 發(fā)表于 09-28 11:18 ?663次閱讀
        天波科普：<b class='flag-5'>算</b><b class='flag-5'>力</b>超過(guò)30T的<b class='flag-5'>邊緣</b>計(jì)算服務(wù)器可以做什么？

        什么是AI算力模組？

        未來(lái)，騰視科技將繼續(xù)深耕AI算力模組領(lǐng)域，全力推動(dòng)AI邊緣計(jì)算行業(yè)的深度發(fā)展。隨著AI技術(shù)的不斷演進(jìn)和物聯(lián)網(wǎng)應(yīng)用的持續(xù)拓展，騰視科技的AI算力
        的頭像 發(fā)表于 09-19 15:26 ?1676次閱讀
        什么是AI<b class='flag-5'>算</b><b class='flag-5'>力</b>模組？

        什么是AI算力模組？

        未來(lái)，騰視科技將繼續(xù)深耕AI算力模組領(lǐng)域，全力推動(dòng)AI邊緣計(jì)算行業(yè)的深度發(fā)展。隨著AI技術(shù)的不斷演進(jìn)和物聯(lián)網(wǎng)應(yīng)用的持續(xù)拓展，騰視科技的AI算力
        的頭像 發(fā)表于 09-19 15:25 ?805次閱讀
        什么是AI<b class='flag-5'>算</b><b class='flag-5'>力</b>模組？

        借勢(shì) RISC-V與 AI 浪潮，元石智算打造算力新范式

        在AI技術(shù)飛速發(fā)展的當(dāng)下，算力需求呈指數(shù)級(jí)增長(zhǎng)，成為推動(dòng)行業(yè)前行的核心動(dòng)力。與此同時(shí)，RISC-V架構(gòu)憑借其開(kāi)源、靈活、可定制等特性，正逐漸嶄露頭角，為AI算
        的頭像 發(fā)表于 07-25 14:51 ?679次閱讀
        借勢(shì) RISC-<b class='flag-5'>V</b>與 AI 浪潮，元石智<b class='flag-5'>算</b>打造<b class='flag-5'>算</b><b class='flag-5'>力</b>新范式

        基于算力魔方與PP-OCRv5的OpenVINO智能文檔識(shí)別方案

        作者：算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 一，引言 隨著人工智能技術(shù)的快速發(fā)展，光學(xué)字符識(shí)別（OCR）技術(shù)已從傳統(tǒng)的模式識(shí)別方法演進(jìn)到基于深度學(xué)習(xí)的
        的頭像 發(fā)表于 06-12 21:19 ?1632次閱讀
        基于<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>魔方</b>與PP-OCRv5的OpenVINO智能文檔識(shí)別方案

        邊緣計(jì)算時(shí)代，科通技術(shù)以端AI方案重構(gòu)算力分配格局

        ，通過(guò)優(yōu)化大模型與芯片的協(xié)同能力，為智能終端設(shè)備提供高性能、低成本且安全可靠的解決方案，進(jìn)一步推動(dòng)AI芯片的廣泛應(yīng)用與需求增長(zhǎng)，成為公司業(yè)績(jī)持續(xù)增長(zhǎng)的核心驅(qū)動(dòng)力。?? 近年來(lái)，AI大模型對(duì)算力的需求呈現(xiàn)指數(shù)級(jí)增長(zhǎng)，如
        的頭像 發(fā)表于 05-28 14:23 ?618次閱讀

        基于算力魔方的智能文檔信息提取方案

        的進(jìn)步，使得自動(dòng)化和智能化的文檔信息提取成為現(xiàn)實(shí)。本方案結(jié)合了Intel OpenVINO平臺(tái)的性能優(yōu)化優(yōu)勢(shì)與百度飛槳（PaddlePaddle）提供的PP-OCRv4模型，旨在開(kāi)發(fā)一款高性能、高精度的智能文檔處理系統(tǒng)。 算力
        的頭像 發(fā)表于 05-15 10:37 ?636次閱讀
        基于<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>魔方</b>的智能文檔信息提取方案

        大算力芯片的生態(tài)突圍與算力革命

        電子發(fā)燒友網(wǎng)報(bào)道（文 / 李彎彎）大算力芯片，即具備強(qiáng)大計(jì)算能力的集成電路芯片，主要應(yīng)用于高性能計(jì)算（HPC）、人工智能（AI）、數(shù)據(jù)中心、自動(dòng)駕駛等需要海量數(shù)據(jù)并行計(jì)算的場(chǎng)景。隨著 AI 與大數(shù)
        的頭像 發(fā)表于 04-13 00:02 ?3224次閱讀

        算力魔方IO擴(kuò)展模塊介紹 網(wǎng)絡(luò)篇1

        一，算力魔方簡(jiǎn)介 算力魔方?AIPC是目前市面上唯一的模塊化迷你電腦，在巴掌大小的空間提供強(qiáng)大的
        的頭像 發(fā)表于 04-09 14:33 ?1033次閱讀
        <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>魔方</b>IO擴(kuò)展模塊介紹 網(wǎng)絡(luò)篇1