91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI模型如何將它導入工程里

恩智浦MCU加油站 ? 來源:恩智浦MCU加油站 ? 作者:恩智浦MCU加油站 ? 2022-07-14 09:40 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

相信不少在MCU平臺使用TensorflowLite Micro(Tensorflow Lite Micro專為嵌入式平臺推出的專用版TFlite),以下簡稱TFLm,推理引擎體驗過AI的小伙伴們,一定都遇到過這樣的情況:當我們歷經千辛萬苦訓練出來一個模型之后,要如何將它導入工程里呢?

各抒己見

這時候有同學會說了:我有文件系統(tǒng)啊,模型放到sd卡中,文件操作讀進來分分鐘?。∵€有的同學會說了:我有xxd,當然,xxd也是TFLM的御用工具,負責將一個文件以十六進制的形式顯示出來,使用過這個推理引擎的同學一定對下面這段注釋很是熟悉:

// xxd -i mobilenet_v1_0.25_128_quant.tflite > mobilenet_v1_0.25_128_quant_model.h

這之后,我們的模型就會被轉化成類似于下面這個樣子,不要懷疑,這就是我們的模型真正的樣子,并非眉清目秀,在程序中就可以通過mobilenet_model這個指針來訪問模型數據:

const char mobilenet_model[] __ALIGNED(16) = {
  0x18, 0x00, 0x00, 0x00, 0x54, 0x46, 0x4c, 0x33, 0x00, 0x00, 0x0e, 0x00,
  0x18, 0x00, 0x04, 0x00, 0x08, 0x00, 0x0c, 0x00, 0x10, 0x00, 0x14, 0x00,
  0x0e, 0x00, 0x00, 0x00, 0x03, 0x00, 0x00, 0x00, 0x78, 0x5b, 0x07, 0x00,
  0x0c, 0x00, 0x00, 0x00, 0x10, 0x00, 0x00, 0x00, 0x20, 0x00, 0x00, 0x00,
  。。。。
  0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x01, 0x00, 0x00, 0x00,
  0x97, 0x26, 0x08, 0x39
};
unsigned int mobilenet_model_len = 496912;
這時候,又有同學說了,你們這些方法都太弱了:你們有SD卡,有文件系統(tǒng),有xxd!這些我統(tǒng)統(tǒng)不需要,不用額外安裝工具,不用文件系統(tǒng)擴展,不用看著我這空蕩蕩的錢包,還要祭出小錢錢去買張SD卡。

嗯,我只需要編譯器+裸板即可!要的就是簡潔(也想高調,可是小錢錢不允許啊)。

不賣關子了,我們有.incbin。這個小東西是一個匯編指令,用來包含某一個文件到匯編文件中,文件的內容將會按字節(jié)逐一添加到當前elf(鏡像文件)節(jié)中。不會做任何方式的解釋,保證數據的完整和一致性。即原封不動的添加進來,不過要注意,以下代碼要保存在以.s尾綴的匯編文件中:

.global mobilenet_model   // 導出全局符號
.global mobilenet_model _end
.section .rodata   // 存儲位置

. mobilenet_model :
   .incbin “mobilenet_v1_0.25_128_quant.tflite”
. mobilenet_model_end :

這樣一來,同樣可以使用mobilenet_model這個模型指針來進行模型的訪問。

很難說,上面三位同學的方法哪一種更好一點,可能第三位同學提出的方法,是對于外部依賴最少的,只需要利用編譯器對于匯編指令的支持即可。既不需要費力的移植文件系統(tǒng),也不用花費小錢錢購買SD卡,也不用求求xxd工具幫我們做事。

當然,小編在這里也站一下隊,明確一下立場!我投.incbin一票,當然了,這個也是小編一直在用的方式。更換模型,只需要修改一下導入路徑即可,可以說香的不行了!

新的挑戰(zhàn)

不好,,,好像有點跑題變成夸夸群了,回到主題。

小伙伴既然已經回答了小編提出的問題:導入模型的N種方法,小編就再追問大家一個問題:如果頻繁更新模型要怎么辦呢?

當然,使用文件系統(tǒng)的小伙伴可能這時候會心一笑了:哈哈,我就知道有這么一出,讓我猜到了吧,比靈活性,沒人能和我比!

的確,無論是使用.incbin還是xxd的方式,每更新一次模型都要對整個模型重新編譯下載。而使用文件系統(tǒng)的方式,只需要將模型拖到SD即可,不過根據程序設計,是否需要保證模型名字保持一致才能夠正確loading。。。這個就不是本篇要討論的了。

柳暗花明

相信看到這里的小伙伴們心里已經有數了,小編一定是已經找到了另一種替代方案,既能實現模型的更新,又不用重新對模型進行編譯。是的,小編也就不再賣關子了,這就揭開廬山真面目。

小編這里要提出的方法,有點類似于引入文件系統(tǒng)的概念,只不過,是一個手動管理的“丐版”文件系統(tǒng)。

一句話概括就是:在非易失性器件上,說普通話就是Nor Flash上開辟一塊固定的區(qū)域來存儲模型,之后我們只需要將最新的模型也同樣下載到這一區(qū)域即可,這樣一來,我們在主程序中,只需要維護這一區(qū)域,將其作為模型的數據起始地址,就可以達到實時更新模型的目的了。

是不是感覺小編的這個想法,思路是如此的清晰!而且,還免去了移植文件系統(tǒng)的繁瑣過程,最重要的是,保住了錢包里的小錢錢,不用買SD卡了。

這里特別強調是Nor Flash,作為可以隨機讀的器件,可以方便地進行隨機訪問,使用起來或者說在程序的編寫上會更加的便捷。當然,使用NAND flash也未曾不可,有興趣的伙伴可以自行整理。

留下懸念

當然,可能有小伙伴要質疑:那你這個可以實現存儲多個模型嗎?小編很負責任地告訴大家,只要膽子大,宇宙都能給你裝下!只不過,在存放數據的時候,需要額外存儲一些幀頭信息,告知程序一共有多少組模型存儲其中。

小編將在下期為大家介紹如何設計合適的存儲結果以存放我們的flash數據,并編寫一個PC端小程序,負責進行數據的轉換,敬請期待!

原文標題:一種基于MCU的神經網絡模型靈活更新方案之先行篇

文章出處:【微信公眾號:恩智浦MCU加油站】歡迎添加關注!文章轉載請注明出處。

審核編輯:彭靜

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    39768

    瀏覽量

    301371
  • 文件系統(tǒng)

    關注

    0

    文章

    302

    瀏覽量

    20976
  • 模型
    +關注

    關注

    1

    文章

    3752

    瀏覽量

    52101

原文標題:一種基于MCU的神經網絡模型靈活更新方案之先行篇

文章出處:【微信號:NXP_SMART_HARDWARE,微信公眾號:恩智浦MCU加油站】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    模型 ai coding 比較

    序 我主要用途是 ai coding,從各種渠道獲取到了很多 不同的大模型排序 最多的是 opus 4.6 > k2.5 > glm5 >
    發(fā)表于 02-19 13:43

    使用NORDIC AI的好處

    Connect SDK :提供統(tǒng)一的 C 運行時、DSP 庫和示例工程,方便在 Nordic SoC 上集成和運行模型。[Edge AI Add-on 文檔; Neuton 集成博客] 適用場景廣泛
    發(fā)表于 01-31 23:16

    AI端側部署開發(fā)(SC171開發(fā)套件V3)2026版

    AI端側部署開發(fā)(SC171開發(fā)套件V3)2026版 序列 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 工程源碼 1 Fibo AI Stack模型轉化指南 27分19秒 http
    發(fā)表于 01-15 10:31

    AI模型的配置AI模型該怎么做?

    STM32可以跑AI,這個AI模型怎么搞,知識盲區(qū)
    發(fā)表于 10-14 07:14

    如何將GCC項目導入NuEclipse?

    如何將GCC項目導入NuEclipse?
    發(fā)表于 09-01 07:04

    AI Cube如何導入數據集?

    我從在線平臺標注完并且下載了數據集,也按照ai cube的要求修改了文件夾名稱,但是導入提示 不知道是什么原因,我該怎么辦? 以下是我修改后的文件夾目錄
    發(fā)表于 08-11 08:12

    新唐科技推出高效AI MCU部署工具NuML Toolkit

    隨著 AI 技術加速導入各類嵌入式系統(tǒng),如何將訓練完成的 AI 模型順利部署至資源有限的微控制器成為工程
    的頭像 發(fā)表于 08-01 17:21 ?2274次閱讀

    ai_cube訓練模型最后部署失敗是什么原因?

    ai_cube訓練模型最后部署失敗是什么原因?文件保存路徑也沒有中文 查看AICube/AI_Cube.log,看看報什么錯?
    發(fā)表于 07-30 08:15

    KiCad 已支持導入 Altium 工程(Project)

    “ ?9.0.3 的小版本更新中增加一個非常實用的功能:直接導入 Altium 的工程,省去了分別導入原理圖和 PCB 的麻煩。? ” ? Altium 導入器 從 ?8.0 開始,K
    的頭像 發(fā)表于 07-21 11:15 ?3231次閱讀
    KiCad 已支持<b class='flag-5'>導入</b> Altium <b class='flag-5'>工程</b>(Project)

    cubemx導入模型后找不到keil找不到工程內的模型的相關文件是怎么回事?

    模型在cubemx內解析后沒有問題,但解析之后生成工程keil內缺讀取不到生成的三個模型文件
    發(fā)表于 07-18 07:18

    如何將一個FA模型開發(fā)的聲明式范式應用切換到Stage模型

    模型切換概述 本文介紹如何將一個FA模型開發(fā)的聲明式范式應用切換到Stage模型,您需要完成如下動作: 工程切換:新建一個Stage
    發(fā)表于 06-04 06:22

    紅發(fā)布AI+警務大模型解決方案

    近日,萬紅在第12屆中國國際警用裝備博覽會上,正式發(fā)布了AI+警務大模型解決方案,以一體化的警務智能體,打造公安政務服務、政務辦公等多種警務智能助手,涵蓋警務工作10余項場景化應用,推進警務“智”變,提升公安機關新質戰(zhàn)斗力。
    的頭像 發(fā)表于 05-16 17:42 ?1111次閱讀

    首創(chuàng)開源架構,天璣AI開發(fā)套件讓端側AI模型接入得心應手

    AI的演進正在逼近“終端智能涌現”的拐點,從通用模型向場景落地遷移成為關鍵議題。聯發(fā)科以“AI隨芯,應用無界”為主題召開天璣開發(fā)者大會2025(MDDC 2025),不僅聚合了全球生態(tài)資源,還
    發(fā)表于 04-13 19:52

    如何將調用方函數的MATLAB代碼導入到DS?

    我最近制作了一個包含調用方函數的模型(我已將模型附加到 zip 文件中)。代碼構建正常。但是當我在 design studio 中導入代碼時,它會引發(fā)錯誤,因為它無法編譯或導入所有文件
    發(fā)表于 04-02 06:51

    訓練好的ai模型導入cubemx不成功怎么處理?

    訓練好的ai模型導入cubemx不成功咋辦,試了好幾個模型壓縮了也不行,ram占用過大,有無解決方案?
    發(fā)表于 03-11 07:18