人工智能（AI）的例子無(wú)處不在。我們對(duì)于 AI 的使用可能超出想象，并且在許多方面將這種使用視為理所當(dāng)然。智能手機(jī)助手就是一個(gè)很好的例子，盡管我們可能并不認(rèn)為這與 AI 有關(guān)。許多場(chǎng)景中，我們已經(jīng)習(xí)慣于與 Siri 或 Google Assistant 的互動(dòng)。面部識(shí)別也已成為新一代智能手機(jī)的標(biāo)準(zhǔn)解鎖功能。

機(jī)器學(xué)習(xí)屬于 AI 的一個(gè)子集，原理是通過(guò)訓(xùn)練基于計(jì)算機(jī)的神經(jīng)網(wǎng)絡(luò)模型來(lái)識(shí)別給定的模型或聲音。在神經(jīng)網(wǎng)絡(luò)完成訓(xùn)練后，就可以推理出結(jié)果。例如，如果我們用數(shù)百?gòu)埞泛拓埖膱D像訓(xùn)練神經(jīng)網(wǎng)絡(luò)，那么它應(yīng)該能夠正確地識(shí)別圖片中是狗還是貓。網(wǎng)絡(luò)模型會(huì)確定答案并指示預(yù)測(cè)的類(lèi)別概率。

隨著基于機(jī)器學(xué)習(xí)的應(yīng)用越來(lái)越深入日常生活，系統(tǒng)開(kāi)發(fā)人員已經(jīng)逐漸意識(shí)到神經(jīng)網(wǎng)絡(luò)當(dāng)前的運(yùn)行方式不一定正確。讓我們回到上面的例子，如果我們向神經(jīng)網(wǎng)絡(luò)展示一匹馬的圖片，那么僅經(jīng)過(guò)貓狗推理訓(xùn)練的神經(jīng)網(wǎng)絡(luò)不得不在已訓(xùn)練的類(lèi)別中選擇一個(gè)。更令人擔(dān)憂的是，神經(jīng)網(wǎng)絡(luò)模型給出錯(cuò)誤預(yù)測(cè)的概率很高，有時(shí)用戶(hù)甚至都不會(huì)注意到，模型就已經(jīng)無(wú)聲無(wú)息地失敗了。

然而，人類(lèi)應(yīng)對(duì)類(lèi)似情況的方法大不相同，我們會(huì)使用更合理的決策方法。我們希望神經(jīng)網(wǎng)絡(luò)誠(chéng)實(shí)地回答說(shuō)它不知道答案，或者從未見(jiàn)過(guò)馬的圖像。這看似簡(jiǎn)單的例子說(shuō)明神經(jīng)網(wǎng)絡(luò)仍然存在缺陷，難以在充滿(mǎn)突發(fā)情況和不確定性的人類(lèi)世界中運(yùn)作。然而，現(xiàn)實(shí)情況是，即使在某些情況下會(huì)存在這些問(wèn)題，許多工業(yè)和汽車(chē)系統(tǒng)仍在繼續(xù)開(kāi)發(fā)神經(jīng)網(wǎng)絡(luò)。

恩智浦多年來(lái)投資構(gòu)建 AI 功能，并一直在關(guān)注神經(jīng)網(wǎng)絡(luò)模型的上述缺陷。相較于智能手機(jī)助手推斷語(yǔ)音的錯(cuò)誤，機(jī)器學(xué)習(xí)在工業(yè)或醫(yī)療保健環(huán)境中出現(xiàn)錯(cuò)誤的危險(xiǎn)性要大得多。因此，我們正在為客戶(hù)提供先進(jìn)的機(jī)器學(xué)習(xí)解決方案，并且正持續(xù)研究一種名為“可解釋的 AI”（xAI）的方法。xAI 通過(guò)添加更合理的、類(lèi)似于人的決策方法和額外的確定性維度，擴(kuò)展了機(jī)器學(xué)習(xí)的推理和計(jì)算概率能力。xAI 將 AI 的所有優(yōu)勢(shì)與推理機(jī)制相結(jié)合，使其更接近人類(lèi)的反應(yīng)方式。

假設(shè)您是自動(dòng)駕駛汽車(chē)的乘客，如果車(chē)輛緩慢地行駛，您自然會(huì)想知道為什么車(chē)輛要如此小心。如果駕駛員是人類(lèi)，您可能會(huì)直接詢(xún)問(wèn)駕駛員為什么汽車(chē)行駛速度如此之慢。駕駛員會(huì)解釋說(shuō)，下大雨時(shí)能見(jiàn)度很差，他們不確定前面會(huì)有什么危險(xiǎn)。這一解釋是基于不確定性做出的。xAI 的決策也會(huì)遵循類(lèi)似的行為模式來(lái)表達(dá)模型推理的不確定性存在于哪些方面。

恩智浦已經(jīng)在研究如何將 xAI 功能整合到我們?yōu)槠?chē)、工業(yè)和醫(yī)療保健系統(tǒng)開(kāi)發(fā)的機(jī)器學(xué)習(xí)解決方案中。

鑒于史無(wú)前例的全球新冠肺炎（COVID-19）大流行，xAI 研究團(tuán)隊(duì)認(rèn)為，恩智浦 xAI 可能有助于實(shí)現(xiàn)對(duì)患者疾病的快速檢測(cè)。雖然現(xiàn)在研究尚處于初期，但是已有的可行性證據(jù)讓我們深受鼓舞。另外，我們與一些技術(shù)領(lǐng)先的醫(yī)院建立了互動(dòng)，積極了解 xAI 技術(shù)對(duì)全球面臨的醫(yī)療保健挑戰(zhàn)有何幫助。

除了規(guī)定的 PCR 測(cè)試和診斷方案以外，CT 放射和 X 射線影像的使用提供了快速的替代檢測(cè)功能。通過(guò)適當(dāng)培訓(xùn)的 xAI 模型來(lái)處理 CT 和 X 射線影像，就能區(qū)分未感染病例和感染病例。xAI 能夠提供實(shí)時(shí)推理可信度和可解釋的洞察，以幫助臨床人員確定下一步治療方案。

xAI 研究團(tuán)隊(duì)相信他們的推理模型已經(jīng)趨于成熟，目前正在與歐洲和美洲的醫(yī)學(xué)和 AI 專(zhuān)家進(jìn)行討論。但是，為了進(jìn)一步推動(dòng)研究，我們必須訪問(wèn)更大的匿名數(shù)據(jù)集，積極尋求新冠肺炎研究人員和潛在合作伙伴的反饋，共同合作以改進(jìn)這種檢測(cè)技術(shù)。如果您想與我們合作使用 xAI 進(jìn)行新冠肺炎檢測(cè)，請(qǐng)聯(lián)系我們的研究團(tuán)隊(duì)。

xAI 使我們能夠在涉及不確定性的情況下，做出更接近人類(lèi)的反應(yīng)。它提高了基于概率的決策分類(lèi)的確定性和可行度。恩智浦在面向汽車(chē)、工業(yè)和醫(yī)療保健應(yīng)用的關(guān)鍵安全系統(tǒng)中發(fā)現(xiàn)了 xAI 的機(jī)遇。

作者：Lars Reger, 恩智浦資深副總裁兼首席技術(shù)官

編輯：hfy