從Alexa和谷歌地圖導航等語音助手，到Bing的對話搜索，人工智能已經(jīng)成為許多人日常生活的一部分。

這些任務需要執(zhí)行深度學習推理，也可以被認為是將人工智能應用于場景。

為人工智能提供動力的深度學習神經(jīng)網(wǎng)絡是基于大量數(shù)據(jù)進行訓練的。將這種訓練應用于數(shù)字世界——識別口語、圖像或路標，或者建議你可能想買的襯衫或下一部要看的電影等，這就是推理。

GPU上推理應用的范圍之廣可能讓您大吃一驚。 從木材行業(yè)到古代日本文本的研究，它無處不在。

下面即將為您呈現(xiàn)運行在GPU上的四種不同的推理方式。

打擊詐騙

PayPal正在使用GPU上的深度學習推理來精確定位欺詐性交易，并幫助確保它們不會再次發(fā)生。

這家公司每天處理數(shù)百萬筆交易。人工智能的進步，尤其是基于邏輯回歸的神經(jīng)網(wǎng)絡模型使其能夠過濾掉欺騙商家的行為，并打擊非法產(chǎn)品的銷售。

通過確定某些交易失敗的原因和發(fā)現(xiàn)提高工作效率的機會，深度學習模型還可以幫助PayPal來優(yōu)化其運營。

而且，由于這些模型總是在學習，它們可以根據(jù)人們的興趣提供相關(guān)的廣告，從而使用戶體驗個性化。

洞察天氣

總部位于波士頓的ClimaCell公司正致力于通過密切傾聽大自然的強大聲音，為天氣預報帶來前所未有的速度、精度和準確性。

該公司利用GPU的推理，提供超本地化、高分辨率的“近距離預報”，可以幫助企業(yè)和人們在鋪路項目、風力發(fā)電、以及規(guī)劃每日通勤以避免惡劣天氣等方面做出更好的決定。該公司還提供預測和歷史數(shù)據(jù)。

ClimaCell的GPU模型在運行中

為了實現(xiàn)這一目標，該公司編寫了一種軟件，可以將現(xiàn)有通信網(wǎng)絡中的信號轉(zhuǎn)換成傳感器，從而分析周圍環(huán)境并提取實時天氣數(shù)據(jù)。

ClimaCell的網(wǎng)絡可以快速分析這些信號，并將它們與美國國家海洋和大氣管理局 (National Oceanic and Atmospheric Administration，簡稱NOAA) 的數(shù)據(jù)整合起來，然后使用運行在NVIDIA GPU加速器上的預測模型將它們結(jié)合在一起。

檢測癌癥

乳腺X光機在檢測乳腺癌方面很有效，但卻比較昂貴。在許多發(fā)展中國家，該機器很少在大城市以外的地區(qū)普及。

Mayo診所的研究人員Viksit Kumar正在領(lǐng)導一項工作，利用GPU支持的推理技術(shù)，通過超聲波設備更準確地對乳腺癌圖像進行分類，這種設備在全世界范圍內(nèi)都更便宜，也更容易獲得。

根據(jù)他們的研究論文，Kumar和他的團隊已經(jīng)能夠非常準確地檢測和分割乳腺癌腫塊，很少出現(xiàn)假陽性。

紅色輪廓顯示了人工分割的腫瘤邊界，而深度學習預測的邊界以藍色、綠色和青色顯示。

該團隊使用NGC注冊表中的TensorFlow深度學習框架容器在NVIDIA GPU上進行本地處理。它還使用NVIDIA V100 Tensor核心GPU在AWS上使用相同的容器。

最終，Kumar希望將超聲波圖像用于其他類型疾病的早期檢測，如甲狀腺癌和卵巢癌。

制作音樂

MuseNet是一個來自人工智能研究組織OpenAI的深度學習算法演示，它可以使用10種樂器和許多不同的風格自動生成音樂——從流行音樂到古典音樂。

通過將不同的樂器和聲音應用到算法生成的音樂中，人們可以創(chuàng)建全新的曲目。演示使用NVIDIA V100 Tensor 核心 GPU來完成這個推理任務。

使用此演示，您可以對您最喜歡的歌曲進行改編。比如加入吉他、去掉鋼琴、加入鼓點，或者把它的風格改成爵士樂或者古典搖滾。

該算法并不是為了模仿人類對音樂的理解而編寫的。相反，它接受了數(shù)十萬首歌曲的訓練，使它能夠?qū)W習音樂中普遍存在的和弦、節(jié)奏和曲風。

其72層網(wǎng)絡使用NVIDIA V100 Tensor 核心 GPU和cuDNN加速的TensorFlow深度學習框架進行訓練。