[首發(fā)于智駕最前沿微信公眾號]在自動駕駛領(lǐng)域，端到端（End-to-End）是指從感知環(huán)境的原始數(shù)據(jù)到車輛實際控制指令，全部交給一個統(tǒng)一的深度學(xué)習(xí)模型來完成。這和傳統(tǒng)的模塊化自動駕駛系統(tǒng)不一樣，模塊化自動駕駛系統(tǒng)會先識別道路和障礙物，再做行為預(yù)測，再規(guī)劃路徑，最后輸出控制動作。

端到端方法則把這些步驟融合起來，直接將輸入的傳感器信息映射到輸出的方向盤轉(zhuǎn)角、加速或剎車等控制量。這樣的方案看起來更簡單，也更“聰明”，可以讓自動駕駛汽車學(xué)到更精細(xì)的駕駛策略。

什么是黑盒？

但只要談及到端到端，就會有一個離不開的話題，那就是“黑盒現(xiàn)象”。

簡單理解黑盒的概念，就是外界很難知道這個模型內(nèi)部是怎么做判斷的，它為什么會做出某個決策。

在人類駕駛員的思維里，我們可以解釋為什么看到紅燈停、看到行人要慢行；但在端到端深度學(xué)習(xí)模型里，我們只能看到輸入的數(shù)據(jù)和輸出的動作，卻看不到中間的決策邏輯，這是一個不透明的系統(tǒng)。

端到端模型的“黑盒”特性，本質(zhì)上源于其底層架構(gòu)。以卷積神經(jīng)網(wǎng)絡(luò)及更復(fù)雜的深層神經(jīng)網(wǎng)絡(luò)為例，這些模型擁有成千上萬的參數(shù)與節(jié)點，經(jīng)過訓(xùn)練后所形成的輸入—輸出映射是高度非線性且內(nèi)部交織的。

盡管它們能夠?qū)W習(xí)到極為復(fù)雜的對應(yīng)關(guān)系，但我們只能將其整體視為一個復(fù)雜的“函數(shù)”，而無法像理解傳統(tǒng)程序那樣，逐步跟蹤并解釋其內(nèi)部的推理過程。

黑盒問題在自動駕駛這類對安全性要求極高的應(yīng)用中影響極大。當(dāng)車輛出現(xiàn)誤判或發(fā)生事故時，必須能夠追溯哪里出現(xiàn)了問題，究竟是環(huán)境感知出錯、決策邏輯有誤，還是訓(xùn)練數(shù)據(jù)本身存在偏差？

然而，由于模型內(nèi)部的工作機(jī)制難以拆解和追溯，使得事故分析、責(zé)任界定與系統(tǒng)改進(jìn)都變得異常困難。

深度學(xué)習(xí)為什么會讓端到端系統(tǒng)變成黑盒

要理解端到端自動駕駛系統(tǒng)為什么容易變成黑盒，得先從深度學(xué)習(xí)內(nèi)部的特性談起。深度學(xué)習(xí)依賴大量的訓(xùn)練數(shù)據(jù)和參數(shù)調(diào)整讓模型學(xué)會從輸入到輸出的映射。也就是說，自動駕駛模型模型通過學(xué)習(xí)很多的例子來學(xué)會開車，這一過程不涉及明確的規(guī)則或邏輯推演。

這樣其實會導(dǎo)致兩個問題，一是內(nèi)部參數(shù)是高度聯(lián)動的，單獨看某一層或某幾個節(jié)點很難解釋整體輸出到底意味著什么；二是這種映射形式本身就不是人為設(shè)計的，而是通過優(yōu)化目標(biāo)（Lossfunction）和大量數(shù)據(jù)學(xué)習(xí)得到，它不像傳統(tǒng)代碼那樣每一步都有明確指令。

一段式端到端示意圖，圖片源自：網(wǎng)絡(luò)

舉個常見的例子，訓(xùn)練一個圖像識別模型來判斷路邊的行人，這個模型內(nèi)部可能包含成千上萬的卷積核和權(quán)重參數(shù)，它們組合在一起才能得出最終結(jié)論。這個組合過程并沒有可解釋的邏輯，而是一種統(tǒng)計學(xué)習(xí)的結(jié)果。

盡管我們可以用一些可視化技術(shù)看哪些像素區(qū)域?qū)敵鲇绊懕容^大，但這只能給出部分信息，并不能告訴我們模型理解的“真正邏輯”。這樣的特性讓整個判斷過程出現(xiàn)黑盒效應(yīng)。

在自動駕駛端到端系統(tǒng)中，輸入可能不僅是圖像，還有激光雷達(dá)點云、雷達(dá)數(shù)據(jù)、定位數(shù)據(jù)等多模態(tài)信息。模型需要整合這些信息來做出控制決策，這進(jìn)一步增加了解釋難度。數(shù)據(jù)越復(fù)雜、模型越深，黑盒效應(yīng)就越明顯。

黑盒背后的安全性和信任問題

黑盒帶來的最大的問題，就是在遇到錯誤或者事故時無法清晰地追責(zé)和修正。在模塊化的自動駕駛架構(gòu)中，如果車輛在紅綠燈前猶豫或者理解錯誤，還可以檢查具體的檢測模塊、跟蹤模塊、規(guī)劃模塊等，逐一找出問題所在。但是在端到端模型中，即便知道最終結(jié)果與預(yù)期差異巨大，也很難從海量參數(shù)中找到根本原因。

這也導(dǎo)致了責(zé)任歸屬和可驗性問題。監(jiān)管機(jī)構(gòu)、測試人員和乘客都希望知道自動駕駛系統(tǒng)在做什么，以及它為什么會做出這樣的決策。黑盒模型的這種不透明性讓監(jiān)管變得更加困難，尤其是在不同法律和標(biāo)準(zhǔn)環(huán)境下，黑盒模型更難做到符合當(dāng)?shù)氐囊蟆?/p>

此外，如果自動駕駛系統(tǒng)在一些邊緣場景中表現(xiàn)不穩(wěn)定，根本無法解釋不穩(wěn)定的原因，這將無法保證自動駕駛系統(tǒng)的可靠性和安全性。

為什么人們?nèi)匀辉敢庋芯慷说蕉俗詣玉{駛

既然黑盒效應(yīng)帶來的問題這么多，為什么各車企還是會投入大量的人力和物力去研究？這其實是因為端到端方法確實有一些潛在優(yōu)勢。

端到端的一個顯著的優(yōu)勢就是它可以自動從原始數(shù)據(jù)中學(xué)習(xí)如何駕駛，而不需要人工設(shè)計中間模塊。在傳統(tǒng)系統(tǒng)中，感知、預(yù)測、規(guī)劃、控制這些模塊都需要精心設(shè)計，且各模塊間的誤差可能疊加，導(dǎo)致整體性能不理想。

而端到端學(xué)習(xí)方法就是讓一個單一模型完成這些任務(wù)，理論上可以減少“信息丟失”和人為設(shè)計的偏差。

另外，端到端模型在有大規(guī)模數(shù)據(jù)和算力支持時，有可能學(xué)到傳統(tǒng)方法難以覆蓋的細(xì)微信號或者環(huán)境特征，從而做出更連貫的決策。在某些封閉測試環(huán)境或者特定場景下，它甚至能表現(xiàn)得與人類駕駛員一樣直觀、流暢。

如何減輕黑盒現(xiàn)象，提高可解釋性

自動駕駛行業(yè)使用端到端的趨勢越來越明顯，且越來越普遍，那有沒有什么方法可以緩解黑盒效應(yīng)，從而提高自動駕駛系統(tǒng)的可解釋性和安全性？

有一種方法是在訓(xùn)練時引入中間監(jiān)督信號，而不是只在最后輸出處進(jìn)行判斷。這種做法可以在模型內(nèi)部形成一些可解釋的“中間狀態(tài)”，像是識別特定物體、理解場景布局等，然后再把這些信息整合用于決策。

這樣一來，當(dāng)系統(tǒng)做出某個復(fù)雜決策時，就可以看下它是基于哪些中間判斷做出的，而不是完全不可解釋的黑箱。這種在訓(xùn)練過程中重構(gòu)中間特征的方法可以讓模型內(nèi)部機(jī)制更透明。

另一個方向是設(shè)計更可解釋的損失函數(shù)或者網(wǎng)絡(luò)結(jié)構(gòu)，讓模型輸出不僅包含控制指令，還能輸出一些人類可理解的解釋信息。譬如，可以產(chǎn)生局部特征圖，讓其說明某些輸入?yún)^(qū)域?qū)ψ罱K控制決策的貢獻(xiàn)，從而幫助理解模型為什么會這樣判斷。

還有一種策略是結(jié)合模塊化結(jié)構(gòu)和端到端學(xué)習(xí)。簡單來說，并不是把自動駕駛過程完全交給帶有黑箱效應(yīng)的端到端模型，而是在多個步驟中保留一些“白盒”的模塊化結(jié)構(gòu)，可先用可解釋的感知模塊提取環(huán)境信息，再把提取到的高層語義信息輸入到端到端模型進(jìn)行行為學(xué)習(xí)。這樣不僅能保留深度學(xué)習(xí)的優(yōu)勢，又能避免完全黑箱化。

多段式端到端示意圖，圖片源自：網(wǎng)絡(luò)

此外，模型不確定性量化和可視化技術(shù)也是常見手段。通過這些手段，模型不僅輸出控制命令，還能給出置信度、風(fēng)險評估或者潛在異議提示。這種方法在實際部署時尤為重要，因為它可以讓系統(tǒng)在對某一決策不夠確定時預(yù)報警告或者采取更保守策略，從而降低潛在風(fēng)險。

最后的話

端到端自動駕駛的黑盒問題作為深度學(xué)習(xí)以數(shù)據(jù)驅(qū)動替代人工規(guī)則后帶來的必然結(jié)果。它確實讓系統(tǒng)具備了更強(qiáng)的整體擬合能力和更接近人類直覺的駕駛表現(xiàn)，但同時也削弱了人類對決策過程的直接掌控。對于我們來說，并不是要徹底消除黑盒，而是要讓黑盒處在可約束、可審計、可回退的體系之中。

通過在關(guān)鍵位置保留可解釋的中間表達(dá)、引入不確定性評估和安全兜底機(jī)制，端到端模型才能從“不可理解的聰明”轉(zhuǎn)變?yōu)椤爸档眯湃蔚闹悄堋?，這也是它能否走向真實道路和規(guī)?；瘧?yīng)用的關(guān)鍵分水嶺。