當(dāng)下的智能電動汽車時(shí)代，已經(jīng)進(jìn)入智能網(wǎng)聯(lián)決勝的下半場，高算力芯片成為衡量汽車企業(yè)產(chǎn)品水平高低的重要指標(biāo)之一，算力配置也成為了車企在車型規(guī)劃中的關(guān)鍵要素。此外，隨著芯片算力的提升，以及汽車應(yīng)用復(fù)雜化，各功能域互相滲透，域集中式的控制架構(gòu)成為一個(gè)演進(jìn)趨勢。

在上周舉行的 2022（第六屆）高工智能汽車年會暨年度金球獎評選頒獎典禮上，NVIDIA 中國區(qū)軟件解決方案總監(jiān)卓睿分享了以“超級算力，賦能整車中央計(jì)算”為題的演講，介紹 NVIDIA 在這個(gè)背景下如何布局并做出了哪些探索。以下為內(nèi)容概要。

智駕和智艙融合趨勢突顯

近年來，隨著汽車電子電氣架構(gòu)由傳統(tǒng)的分布式架構(gòu)向中央集成式架構(gòu)演進(jìn)，車內(nèi)電子控制單元（ECU）數(shù)量逐漸減少。隨著芯片算力的不斷提升，自動泊車以及高級駕駛輔助系統(tǒng)（ADAS）等功能得以整合。

當(dāng)前，汽車制造商和一級供應(yīng)商希望能夠?qū)⒅邱{和智艙功能進(jìn)行進(jìn)一步融合。目前已經(jīng)有客戶將基于 DRIVE Orin 的智駕芯片與相關(guān)廠商的座艙芯片集成至一塊 PCB 中或同一 ECU 中的不同 PCB 上。這種不同的技術(shù)趨勢的出現(xiàn)，意味著在不遠(yuǎn)的將來，汽車內(nèi)部與智能功能相關(guān)的域控制器數(shù)量將會進(jìn)一步減少，芯片將大放異彩。

DRIVE Orin 踏浪爭先

強(qiáng)勁賦能自動駕駛

從去年開始，很多中國車企都采用了NVIDIA DRIVE Orin SoC。DRIVE Orin Soc 的算力達(dá)到 254 TOPS，內(nèi)存帶寬被設(shè)定在 205GB/s，可以支持各種傳感器和 4 個(gè) 10G bps 的網(wǎng)絡(luò)接口，以及 H.265/HEVC/VP9 格式的 4K@60Hz 視頻編碼或者 8K@30Hz 視頻解碼。

DRIVE Orin 集成了新一代 GPU 體系架構(gòu)，GPU 憑借其靈活性，可支持無人駕駛領(lǐng)域的算法團(tuán)隊(duì)開發(fā)新的算法。另外，GPU 雖然非常靈活，但本身從能耗比來說表現(xiàn)還不是最好，所以 NVIDIA 又加入了 DLA（Deep Learning Accelerator，深度學(xué)習(xí)加速器）。NVIDIA 將 GPU 與 DLA 相結(jié)合，幫助客戶能夠更加靈活地將不同算法部署在不同引擎上，以達(dá)到更好的功耗比和性能表現(xiàn)。

除 AI 計(jì)算能力之外，對芯片而言，CPU 也至關(guān)重要。目前，NVIDIA 軟件團(tuán)隊(duì)正在持續(xù)優(yōu)化 CPU 算力，將需要并行的算力從 CPU 遷移到 GPU 和 DLA。此外，DRIVE Orin 芯片屬于異構(gòu)的計(jì)算架構(gòu)，配置了許多性能卓越的加速引擎，如適用于傳統(tǒng)的 CV 算法的 PVA 引擎，可用于深度學(xué)習(xí)的前處理和后處理的加速。

此外，DRIVE Orin 的帶寬也值得一提，其高達(dá) 254 TOPS 的算力都需要通過內(nèi)存加載，如果帶寬速度相對較慢，就意味著帶寬才是真正的算法瓶頸。DRIVE Orin 可支持 205 GB/s 的帶寬，可避免由于帶寬不足造成的瓶頸。

現(xiàn)階段，通過單個(gè)或兩個(gè) DRIVE Orin，不僅可以將標(biāo)準(zhǔn)的 ADAS 功能提升，應(yīng)用于高速公路或城市道路等場景，還可以將 360 度環(huán)視、編碼、自動駕駛監(jiān)測以及泊車功能集成至 DRIVE Orin 中，而這個(gè)集成的實(shí)現(xiàn)得益于算力的提升和芯片功能的逐步強(qiáng)大。

DRIVE Thor 蓄勢待發(fā)

推動實(shí)現(xiàn)艙駕一體融合

DRIVE Orin 是 NVIDIA 推出的第三代無人駕駛車載芯片。NVIDIA 發(fā)布的第一代 Parker 更多是基于 Linux 打通數(shù)據(jù)鏈路，例如攝像頭獲取數(shù)據(jù)后的前處理和推理等，但欠缺真正的功能安全。因而雖然被大量廠商作為開發(fā)板，但 Parker 并沒有在無人駕駛領(lǐng)域?qū)崿F(xiàn)量產(chǎn)。NVIDIA 在 Parker 之后帶來了下一代產(chǎn)品—DRIVE Xavier，該產(chǎn)品在國內(nèi)已有量產(chǎn)。DRIVE Xavier 有超過 90 億個(gè)晶體管，是全球第一個(gè)達(dá)到 ISO 26262 安全認(rèn)證的復(fù)雜 SoC。DRIVE Orin 相比于第二代產(chǎn)品 DRIVE Xavier，算力水平有了進(jìn)一步提升，同時(shí)架構(gòu)和軟件也擁有延續(xù)性，在國內(nèi)自動駕駛行業(yè)占據(jù)主流。

今年 GTC 秋季大會上發(fā)布的可實(shí)現(xiàn) 2000 TFLOPS 浮點(diǎn)算力的 DRIVE Thor，相比前三代產(chǎn)品而言變化較大。前三代產(chǎn)品主要用于解決智能駕駛的應(yīng)用場景，而 DRIVE Thor 在此基礎(chǔ)上，還將推動實(shí)現(xiàn)智能座艙。在硬件層面，DRIVE Thor 利用 MIG 技術(shù)，實(shí)現(xiàn) GPU 硬件在智駕域和智艙域的隔離；在軟件層面，DRIVE Thor 通過虛擬化的技術(shù)，保證渲染與 AI 功能在智艙域的并行，“軟硬共進(jìn)”，實(shí)現(xiàn)艙駕一體融合。

DRIVE Thor 內(nèi)含 780 億個(gè)晶體管，主要有三項(xiàng)優(yōu)勢（如上圖）。

FP8 的支持

DRIVE Thor 的優(yōu)勢之一是具有 8 位浮點(diǎn)（FP8）精度。FP8 是 NVIDIA 積極推動的一種新型的數(shù)據(jù)處理方式，其目的在于貫通軟件和硬件提供一個(gè)通用、可維持準(zhǔn)確性的交換格式，以加速 AI 的訓(xùn)練、推理。傳統(tǒng)意義上講，開發(fā)人員在從 32 位浮點(diǎn)轉(zhuǎn)換成 8 位整數(shù)（8-int）的數(shù)據(jù)格式時(shí)，往往會損失神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確性。DRIVE Thor 在 FP8 精度下 2000 TFLOPS 的浮點(diǎn)算力，讓開發(fā)人員在不犧牲精度和準(zhǔn)確性的情況下進(jìn)行數(shù)據(jù)傳輸。事實(shí)上，F(xiàn)P8 的主要目的是支持推理 Transformer 引擎的自動駕駛汽車平臺，該引擎是 NVIDIA GPU 中 Tensor Core 的新組件。借助該引擎，DRIVE Thor 可將 Transformer 深度神經(jīng)網(wǎng)絡(luò)的推理性能提升高達(dá) 9 倍，這對于支持與自動駕駛相關(guān)的、龐大且復(fù)雜的 AI 工作負(fù)載至關(guān)重要。

多域計(jì)算

DRIVE Thor 支持多域計(jì)算，可隔離用于自動駕駛和車載信息娛樂的功能。車輛中通常會分布數(shù)十個(gè) ECU 來為各個(gè)功能提供支持，借助 DRIVE Thor，汽車制造商可以在單個(gè)系統(tǒng)級芯片（SoC）上高效整合多種功能，可滿足智能座艙和智能駕駛對 GPU 不同的安全性和穩(wěn)定性的需求，能夠緩解算力供應(yīng)緊張并簡化車輛設(shè)計(jì)開發(fā)，從而進(jìn)一步顯著降低運(yùn)行能耗、減輕重量并減少布線。

NVLink-C2C 芯片互聯(lián)技術(shù)

DRIVE Thor 還采用了最新的 NVLink-C2C 芯片互聯(lián)技術(shù)，可同時(shí)運(yùn)行多個(gè)操作系統(tǒng)。用戶可以單獨(dú)使用 DRIVE Thor 芯片，也可以通過最新的 NVLink-C2C 芯片互連技術(shù)同時(shí)連接兩個(gè) Thor 芯片，使兩個(gè)芯片作為單一操作系統(tǒng)的統(tǒng)一平臺。

NVLink-C2C 的優(yōu)勢在于它能夠以最小的開銷在超高速數(shù)據(jù)傳輸鏈路中共享、調(diào)度和分發(fā)任務(wù)。在軟件定義汽車的發(fā)展趨勢下，這為汽車制造商帶來足夠大的算力冗余和靈活性，支持軟件定義車輛的開發(fā)，這些車輛可通過安全的 OTA 更新持續(xù)升級。

軟件賦能“行穩(wěn)致遠(yuǎn)”

那么如何讓中央域控制的芯片更富競爭力呢？除了硬件的支持外，軟件賦能也必不可少。無論是 DRIVE Orin 還是 DRIVE Thor，都是 SOA 架構(gòu)，該架構(gòu)擁有很強(qiáng)的延續(xù)性。該部分著重介紹以下幾點(diǎn)：

• DRIVE Orin 和 DRIVE Thor 的 API，也就是所謂的中間件，以及底層的大部分架構(gòu)非常相似，可支持有 DRIVE Orin 開發(fā)經(jīng)驗(yàn)的開發(fā)人員，將其開發(fā)的代碼輕松遷移至 DRIVE Thor。

• 基于 NVIDIA DRIVE OS 的經(jīng)驗(yàn)。DRIVE Orin 和 DRIVE Thor 均支持基于 Hypervisor 的 Guest OS 架構(gòu)。客戶可根據(jù)場景的需要，靈活地配置一個(gè)或者多個(gè) Guest OS 作為操作系統(tǒng)。

• 安全標(biāo)準(zhǔn)受重視程度逐漸提高，廠商也更加關(guān)注安全需求。NVIDIA 在軟硬件方面都進(jìn)行了功能安全性的提升。

• 隨著芯片逐漸開始支持多域計(jì)算，虛擬化的重要程度也不斷提升。當(dāng)前，NVIDIA 可利用自有的 Hypervisor 實(shí)現(xiàn)虛擬化，避免不同模塊之間產(chǎn)生干擾，實(shí)現(xiàn)資源隔離。

DRIVE Orin 是利用了相同的 Hypervisor，其 ADAS 功能可根據(jù)客戶需求選擇 Linux 或 QNX 作為操作系統(tǒng)。當(dāng)前國內(nèi)主流選擇是 QNX 系統(tǒng)，但仍有不少數(shù)客戶選擇使用 Linux。NVIDIA 與黑莓（BlackBerry）進(jìn)行了深度合作，通過 QOS 版本滿足 ASIL－D 級別的功能安全。

在 DRIVE Thor 中，用戶可整合儀表盤、車載信息娛樂（IVI）等功能。因此，可以支持三個(gè) Guest OS 來滿足不同域的需求。

NVIDIA 對于深度學(xué)習(xí)領(lǐng)域關(guān)注的不僅僅是 TOPS 算力本身。如圖所示是 NVIDIA 每一代芯片產(chǎn)品最高可達(dá)的算力水平，在此基礎(chǔ)上還需考慮帶寬以及可編程性等。對于可編程性而言，NVIDIA CUDA 架構(gòu)可支持業(yè)界流行的 TensorFlow、PythonTorch 等典型訓(xùn)練框架，擁有良好的可編程性。

而編譯器實(shí)際上是一個(gè)推理架構(gòu)，能夠優(yōu)化以 Python 或 Tensorflow 輸入的網(wǎng)絡(luò)架構(gòu)，包括對 Layer 的融合，精度的優(yōu)化等，能夠在保證準(zhǔn)確性的同時(shí)大幅提升性能。NVIDIA 支持不同的網(wǎng)絡(luò)，包括檢測、分類、Transformer 和對話式 AI 等。因?yàn)槟壳爸悄茏摰膶υ捠?AI 部署很多是基于云上進(jìn)行的，希望未來客戶能夠借助 NVIDIA 提供的算力支持，將他們部署在云端的算法部署在 DRIVE Thor 中。

除上文提到的 DRIVE OS 以外，NVIDIA 還將在 DRIVE Orin 和 DRIVE Thor 等產(chǎn)品中延續(xù)使用 NVIDIA DRIVE SDK 和 CUDA 架構(gòu)。SDK 的延續(xù)，可賦能應(yīng)用遷移，如將基于 DRIVE Orin 開發(fā)的應(yīng)用輕松遷移至 DRIVE Thor 平臺。如 NvMedia 可用于收集傳感器數(shù)據(jù)并無縫傳輸至 GPU 引擎和 DLA 引擎中，而 NvStreams 則相當(dāng)于一個(gè)用于內(nèi)存管理和傳輸?shù)?SDK，可以實(shí)現(xiàn)不同應(yīng)用場景之間的數(shù)據(jù)傳輸，包括跨線程、跨進(jìn)程和跨 VM 之間的傳輸。