91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

在實踐應用中極具潛力的圖神經(jīng)網(wǎng)絡(GNNs)

獨愛72H ? 來源:讀芯術 ? 作者:讀芯術 ? 2020-03-15 23:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

(文章來源:讀芯術)
深度學習已經(jīng)改變了我們處理數(shù)據(jù)的方式,通過使用日益增長的計算“廉價”資源(摩爾定律)來解決現(xiàn)實世界問題,并且能夠完成一些人腦幾乎毫不費力就能完成的認知任務,例如圖像分類,自然語言處理,視頻處理等等。

但這些任務具有的大多數(shù)數(shù)據(jù)和結構通常是在歐幾里得空間中表示的。然而,我們目睹了越來越多的問題,這些問題生成的數(shù)據(jù)來自非歐幾里得域,它們更適合被表示為具有復雜關系和對象之間相互依賴關系的圖。圖數(shù)據(jù)的復雜性給經(jīng)典ML算法和現(xiàn)代DL算法帶來了重大挑戰(zhàn)。近來出現(xiàn)了許多擴展DL方法使之用于圖數(shù)據(jù)的研究。

花點時間想像一下,如果我們收集了所有“獲批”藥物或一般藥物的結構,并訓練一個GNN來學習藥物的分子模式/結構,它會學會識別在此處或太空中發(fā)現(xiàn)的分子是不是藥物。我相信結果可能相當令人驚訝,并且能幫助我們發(fā)現(xiàn)或重新發(fā)現(xiàn)可以治愈如今被認為無法治愈的疾病的藥物。如果考慮大多數(shù)疾病甚至死亡本身都可以看作是技術問題。那么為什么有些生物可以活幾百年而有些只能活幾十年?我們可以無限延長壽命嗎?

GNNs與對應的DL算法具有相似的屬性,它能夠進行回歸,分類,為空節(jié)點和邊生成數(shù)據(jù),以及許多尚待發(fā)現(xiàn)的功能。該領域仍處于起步階段,誰也不知道幾年內我們能做些什么,以及用從現(xiàn)在開始的幾千篇論文做些什么。對我來說,最有趣的是推薦以及醫(yī)療領域的應用,其中醫(yī)療領域為no.1。

如今,圖可能是不規(guī)則的,一張圖可能具有可變數(shù)目的無序節(jié)點,并且圖中節(jié)點可能具有不同數(shù)量的鄰居,從而導致一些在圖像領域中易于計算的重要的操作(例如卷積),很難應用于圖域。此外,現(xiàn)有機器學習算法的核心假設是實體相互獨立。該假設不再適用于圖數(shù)據(jù),因為每個實體(節(jié)點)通過各種類別的鏈接(例如引文,好友和交互)與其他實體(節(jié)點)相關聯(lián)。但這不是障礙,因為最近我們看到人們對擴展或者應該說是移植深度學習算法到圖領域(尤其是設計來用于圖數(shù)據(jù))的興趣日益濃厚。

卷積神經(jīng)網(wǎng)絡(ConvNets)不在本文討論范圍之內。循環(huán)圖神經(jīng)網(wǎng)絡(RecGNNs)大多是圖神經(jīng)網(wǎng)絡的開創(chuàng)性作品。RecGNN旨在學習具有循環(huán)神經(jīng)架構的節(jié)點表示。它們假設圖中的節(jié)點不斷與其鄰居交換信息/消息,直到達到穩(wěn)定的平衡。RecGNNs在理論上很重要,它啟發(fā)了后來對卷積圖神經(jīng)網(wǎng)絡的研究。特別地,消息傳遞的思想被基于空間的卷積圖神經(jīng)網(wǎng)絡所繼承。

卷積圖神經(jīng)網(wǎng)絡(ConvGNNs)將卷積運算從網(wǎng)格數(shù)據(jù)推廣到了圖形數(shù)據(jù)。主要思想是通過聚合節(jié)點自身的特征和鄰居的特征來生成節(jié)點的表示,其中。與RecGNNs不同,ConvGNNs堆疊多個圖卷積層以提取高級節(jié)點表示。ConvGNNs在建立許多其它的復雜GNN模型中起著核心作用。圖2a展示了用于節(jié)點分類的ConvGNN。圖2b展示了用于圖分類的ConvGNN。

圖自動編碼器(GAEs)是無監(jiān)督的學習框架,可將節(jié)點/圖編碼到潛在的矢量空間中,并通過編碼后的信息重建圖數(shù)據(jù)。GAEs用于學習網(wǎng)絡嵌入和圖生成分布。對于網(wǎng)絡嵌入,GAEs通過重建圖結構信息(例如圖鄰接矩陣)來學習潛在節(jié)點表示。對于圖生成,某些方法逐步生成圖的節(jié)點和邊,而其他方法則一次全部輸出圖形。圖2c展示了一個用于網(wǎng)絡嵌入的GAE。

時空圖神經(jīng)網(wǎng)絡(STGNNs)旨在從時空圖中學習隱藏的模式,這種模式在各種應用中變得越來越重要,例如交通速度預測,駕駛員操縱預期和人類動作識別。STGNNs的關鍵思想是同時考慮空間依賴性和時間依賴性。許多當前的方法將用來捕獲空間依賴性的圖卷積和用來對時間依賴性進行建模的RNNs或CN

圖分類旨在預測整個圖的類標簽??梢酝ㄟ^圖卷積層,圖池層和/或讀出層的組合來實現(xiàn)此任務的端到端學習。圖卷積層負責精確的高級節(jié)點表示,而圖池化層則充當下采樣的角色,從而每次將每個圖都粗化為子結構。讀出層將每個圖的節(jié)點表示折疊為圖表示。通過將多層感知器和softmax層應用于圖表示,我們可以構建用于圖分類的端到端框架。在圖2b中給出了一個例子。

當圖中沒有可用的類標簽時,可以在端到端框架中以完全無監(jiān)督的方式學習圖嵌入。這些算法以兩種方式利用邊級信息。一種簡單的方法是采用自動編碼器框架,其編碼器使用圖卷積層將圖嵌入到潛在表示中,在其上使用解碼器來重構圖結構。另一種流行的方法是利用負采樣方法,該方法將一部分節(jié)點對采樣為負對,而圖中具有鏈接的現(xiàn)有節(jié)點對為正對。然后應用邏輯回歸層來區(qū)分正對和負對。
(責任編輯:fqj)

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    神經(jīng)網(wǎng)絡的初步認識

    日常生活中的智能應用都離不開深度學習,而深度學習則依賴于神經(jīng)網(wǎng)絡的實現(xiàn)。什么是神經(jīng)網(wǎng)絡?神經(jīng)網(wǎng)絡的核心思想是模仿生物神經(jīng)系統(tǒng)的結構,特別是大腦中神經(jīng)
    的頭像 發(fā)表于 12-17 15:05 ?355次閱讀
    <b class='flag-5'>神經(jīng)網(wǎng)絡</b>的初步認識

    CNN卷積神經(jīng)網(wǎng)絡設計原理及MCU200T上仿真測試

    數(shù)的提出很大程度的解決了BP算法優(yōu)化深層神經(jīng)網(wǎng)絡時的梯度耗散問題。當x&gt;0 時,梯度恒為1,無梯度耗散問題,收斂快;當x&lt;0 時,該層的輸出為0。 CNN
    發(fā)表于 10-29 07:49

    NMSIS神經(jīng)網(wǎng)絡庫使用介紹

    () riscv_fully_connected_q7()   NS上跑時和arm的神經(jīng)網(wǎng)絡庫一致,可在github上下載CMSIS的庫,然后加入到自己庫所在的路徑下即可。
    發(fā)表于 10-29 06:08

    構建CNN網(wǎng)絡模型并優(yōu)化的一般化建議

    通過實踐,本文總結了構建CNN網(wǎng)絡模型并優(yōu)化的一般化建議,這些建議將會在構建高準確率輕量級CNN神經(jīng)網(wǎng)絡模型方面提供幫助。 1)避免單層神經(jīng)網(wǎng)絡:我們清楚
    發(fā)表于 10-28 08:02

    Ubuntu20.04系統(tǒng)中訓練神經(jīng)網(wǎng)絡模型的一些經(jīng)驗

    本帖欲分享Ubuntu20.04系統(tǒng)中訓練神經(jīng)網(wǎng)絡模型的一些經(jīng)驗。我們采用jupyter notebook作為開發(fā)IDE,以TensorFlow2為訓練框架,目標是訓練一個手寫數(shù)字識別的神經(jīng)網(wǎng)絡
    發(fā)表于 10-22 07:03

    CICC2033神經(jīng)網(wǎng)絡部署相關操作

    完成神經(jīng)網(wǎng)絡量化后,需要將神經(jīng)網(wǎng)絡部署到硬件加速器上。首先需要將所有權重數(shù)據(jù)以及輸入數(shù)據(jù)導入到存儲器內。 仿真環(huán)境下,可將其存于一個文件,并在 Verilog 代碼中通過 read
    發(fā)表于 10-20 08:00

    液態(tài)神經(jīng)網(wǎng)絡(LNN):時間連續(xù)性與動態(tài)適應性的神經(jīng)網(wǎng)絡

    1.算法簡介液態(tài)神經(jīng)網(wǎng)絡(LiquidNeuralNetworks,LNN)是一種新型的神經(jīng)網(wǎng)絡架構,其設計理念借鑒自生物神經(jīng)系統(tǒng),特別是秀麗隱桿線蟲的神經(jīng)結構,盡管這種微生物的
    的頭像 發(fā)表于 09-28 10:03 ?1304次閱讀
    液態(tài)<b class='flag-5'>神經(jīng)網(wǎng)絡</b>(LNN):時間連續(xù)性與動態(tài)適應性的<b class='flag-5'>神經(jīng)網(wǎng)絡</b>

    神經(jīng)網(wǎng)絡的并行計算與加速技術

    隨著人工智能技術的飛速發(fā)展,神經(jīng)網(wǎng)絡眾多領域展現(xiàn)出了巨大的潛力和廣泛的應用前景。然而,神經(jīng)網(wǎng)絡模型的復雜度和規(guī)模也不斷增加,這使得傳統(tǒng)的
    的頭像 發(fā)表于 09-17 13:31 ?1171次閱讀
    <b class='flag-5'>神經(jīng)網(wǎng)絡</b>的并行計算與加速技術

    如何在機器視覺中部署深度學習神經(jīng)網(wǎng)絡

    1:基于深度學習的目標檢測可定位已訓練的目標類別,并通過矩形框(邊界框)對其進行標識。 討論人工智能(AI)或深度學習時,經(jīng)常會出現(xiàn)“神經(jīng)網(wǎng)絡”、“黑箱”、“標注”等術語。這些概念對非專業(yè)
    的頭像 發(fā)表于 09-10 17:38 ?931次閱讀
    如何在機器視覺中部署深度學習<b class='flag-5'>神經(jīng)網(wǎng)絡</b>

    基于神經(jīng)網(wǎng)絡的數(shù)字預失真模型解決方案

    基于神經(jīng)網(wǎng)絡的數(shù)字預失真(DPD)模型中,使用不同的激活函數(shù)對整個系統(tǒng)性能和能效有何影響?
    的頭像 發(fā)表于 08-29 14:01 ?3501次閱讀

    無刷電機小波神經(jīng)網(wǎng)絡轉子位置檢測方法的研究

    MATLAB/SIMULINK工具對該方法進行驗證,實驗結果表明該方法全程速度下效果良好。 純分享帖,點擊下方附件免費獲取完整資料~~~ *附件:無刷電機小波神經(jīng)網(wǎng)絡轉子位置檢測方法的研究.pdf
    發(fā)表于 06-25 13:06

    神經(jīng)網(wǎng)絡專家系統(tǒng)電機故障診斷中的應用

    的診斷誤差。仿真結果驗證了該算法的有效性。 純分享帖,需要者可點擊附件免費獲取完整資料~~~*附件:神經(jīng)網(wǎng)絡專家系統(tǒng)電機故障診斷中的應用.pdf【免責聲明】本文系網(wǎng)絡轉載,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版
    發(fā)表于 06-16 22:09

    神經(jīng)網(wǎng)絡RAS異步電機轉速估計中的仿真研究

    ,在一定程度上擴展了轉速估計范圍。 純分享帖,需要者可點擊附件免費獲取完整資料~~~*附件:神經(jīng)網(wǎng)絡RAS異步電機轉速估計中的仿真研究.pdf【免責聲明】本文系網(wǎng)絡轉載,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權
    發(fā)表于 06-16 21:54

    基于FPGA搭建神經(jīng)網(wǎng)絡的步驟解析

    本文的目的是一個神經(jīng)網(wǎng)絡已經(jīng)通過python或者MATLAB訓練好的神經(jīng)網(wǎng)絡模型,將訓練好的模型的權重和偏置文件以TXT文件格式導出,然后通過python程序將txt文件轉化為coe文件,(coe
    的頭像 發(fā)表于 06-03 15:51 ?1315次閱讀
    基于FPGA搭建<b class='flag-5'>神經(jīng)網(wǎng)絡</b>的步驟解析

    NVIDIA實現(xiàn)神經(jīng)網(wǎng)絡渲染技術的突破性增強功能

    發(fā)者能使用 NVIDIA GeForce RTX GPU 中的 AI Tensor Cores,游戲的圖形渲染管線內加速神經(jīng)網(wǎng)絡渲染。
    的頭像 發(fā)表于 04-07 11:33 ?1224次閱讀