NXP Semiconductors 推出了名為 eIQ Auto 的新深度學習工具包。恩智浦正在尋求通過使其工具“汽車品質(zhì)”來使自己在競爭中脫穎而出。NXP 的目標是讓 AV 設(shè)計人員更輕松地在車輛中實施深度學習。

自動駕駛汽車 (AV) 的發(fā)展不一定需要人工智能或深度學習。簡而言之，并非所有 AV 都需要由 AI 驅(qū)動。然而，深度學習的快速進步和更高的準確性正吸引著尋求改進其高度自動化車輛的開發(fā)人員。

然而，驗證 AI 驅(qū)動的 AV 安全性的困難仍然存在。安全研究人員擔心深度學習的“黑箱”性質(zhì)，而這只是幾個棘手問題之一。AV 設(shè)計師是否可以驗證和驗證持續(xù)學習的 AI 系統(tǒng)，或者 AI 功能一旦部署在車輛內(nèi)的專用硬件中，其行為是否與在更大、更強大的計算機系統(tǒng)上開發(fā)和訓練時的行為相同仍然不確定.

盡管存在這些擔憂，但 AV 和安全社區(qū)都認識到 AI 不是他們可以避免討論的話題。

隨著上周 UL 4600 規(guī)范草案的發(fā)布，Edge Case Research 的首席技術(shù)官 Phil Koopman 告訴我們，“我們將正面追求完全自治?！?/p>

UL 4600 是一種評估目前在 Underwriters' Laboratories 開發(fā)的自動駕駛產(chǎn)品的安全標準，它既不假設(shè)也不強制要求在 AV 內(nèi)部部署深度學習。但該標準涵蓋了對生命關(guān)鍵應(yīng)用程序中使用的任何機器學習和其他自主功能的驗證。

用于深度學習的汽車級軟件工具包

在此背景下，NXP Semiconductors 推出了其 eIQ Auto 深度學習工具包。

“迄今為止開發(fā)的大多數(shù)深度學習框架和神經(jīng)網(wǎng)絡(luò)都用于視覺、語音和自然語言等消費類應(yīng)用，”恩智浦半導體汽車人工智能戰(zhàn)略和合作伙伴關(guān)系總監(jiān) Ali Osman Ors 說。它們的開發(fā)不一定考慮到對生命至關(guān)重要的應(yīng)用程序。

（來源：NXP）點擊這里查看大圖

領(lǐng)先的汽車芯片供應(yīng)商 NXP 正在進一步使其軟件工具包符合汽車軟件性能改進和能力確定 (A-SPICE) 標準。A-SPICE 是德國汽車制造商為改進軟件開發(fā)流程而制定的一套指南。

NXP 解釋說，其 eIQ Auto 工具集——專為 NXP 的 S32V234 處理器設(shè)計——將幫助 AV 開發(fā)人員“優(yōu)化深度學習算法的嵌入式硬件開發(fā)并加快上市時間?！?/p>

當被問及是否有類似的汽車級工具包可用于深度學習時，Ors 說：“一些汽車 OEM 可能已經(jīng)在內(nèi)部設(shè)計了自己的工具。但據(jù)我所知，我還沒有看到其他汽車芯片供應(yīng)商提供像我們這樣用于深度學習的汽車級軟件工具包?！?/p>

剪枝、量化和壓縮

數(shù)據(jù)準備和訓練（學習）的過程以及在嵌入式系統(tǒng)上的 AI 部署（推理）過程都很好理解。

如今，據(jù)說 AV 開發(fā)人員在測試車輛在公共道路上行駛時以每秒 4GB 的速度收集數(shù)據(jù)。清理和注釋如此大量的數(shù)據(jù)并為訓練數(shù)據(jù)做好準備可能會非常昂貴。在某些情況下，僅數(shù)據(jù)標記處理就可以在財務(wù)上削弱算法開發(fā)人員和 AV 初創(chuàng)公司。

但對 AV 設(shè)計人員同樣具有挑戰(zhàn)性的是，盡管很少公開討論，但優(yōu)化訓練好的 AI 模型并將其轉(zhuǎn)換為部署（在推理引擎上）所涉及的艱巨任務(wù)。Ors 解釋說，NXP 的工具加速了“量化、修剪和壓縮”神經(jīng)網(wǎng)絡(luò)的過程。

通過剪枝，Ors 意味著通過去除不重要的權(quán)重來移除神經(jīng)網(wǎng)絡(luò)架構(gòu)中存在的冗余連接。當然，一個新的“剪枝”模型會失去準確性。因此，模型必須在修剪后進行微調(diào)以恢復其準確性。

接下來，量化創(chuàng)建了一個“高效的計算過程”，Ors 說。它涉及通過對權(quán)重進行聚類或四舍五入來捆綁權(quán)重，以便可以使用更少的內(nèi)存來表示相同數(shù)量的連接。另一種常見的技術(shù)是通過四舍五入將浮點權(quán)重轉(zhuǎn)換為定點表示。與剪枝一樣，模型必須在量化后進行微調(diào)。

AV 設(shè)計師通過運行測試數(shù)據(jù)（深度學習系統(tǒng)以前從未見過）來評估轉(zhuǎn)換模型的準確性，并進一步微調(diào)模型。

（來源：NXP）點擊這里查看大圖

分區(qū)工作負載

恩智浦表示，除此之外，eIQ Auto“對工作負載進行分區(qū)并為神經(jīng)網(wǎng)絡(luò)的每個部分選擇最佳計算引擎?！?Ors 解釋說，它加快了手工制作推理引擎的過程，因為該工具可以幫助 AV 設(shè)計人員確定哪些任務(wù)在 CPU、DSP 或 GPU 中運行得最好。他說 eIQ Auto 不能用于非 NXP 設(shè)備，因為該工具必須非常熟悉處理器內(nèi)部發(fā)生的事情。