91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

沒人說得清深度學(xué)習(xí)的原理 只是把它當(dāng)作一個(gè)黑箱來使

lviY_AI_shequ ? 2017-12-26 16:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人類正在慢慢接近世界的本質(zhì)——物質(zhì)只是承載信息模式的載體。人腦之外的器官都只是保障這一使命的給養(yǎng)艦隊(duì)。

自從去年 AlphaGo 完虐李世乭,深度學(xué)習(xí)火了。但似乎沒人說得清它的原理,只是把它當(dāng)作一個(gè)黑箱來使。有人說,深度學(xué)習(xí)就是一個(gè)非線性分類器?有人說,深度學(xué)習(xí)是對(duì)人腦的模擬……但我覺得都沒有捅透那層窗戶紙。

當(dāng)讀完 Jeff Hawkins 的《論智能》,「就是它了!」。而我驚奇地發(fā)現(xiàn),原書竟是 2004 年出版的!我怕自己讀了本假書,或是某個(gè)美國民科的著作,特意到豆瓣、知乎上查了下,發(fā)現(xiàn)幾乎每個(gè)看過這本書的人都對(duì)其理論嘖嘖稱贊。但奇怪的是,似乎沒人肯替它站臺(tái),這套理論的影響止步于此,好像大家都在刻意掩飾自己看過這本秘笈。它明明已經(jīng)完整解釋了人腦智能的運(yùn)作機(jī)制了??!注意是 Real Intelligence ,而不僅僅是 Artificial Intelligence ?。。?/p>

三個(gè)洞見

比起絕大多數(shù)腦科學(xué)論文,作者的洞見簡(jiǎn)單得多,也深刻得多:

長(zhǎng)久以來,由于我們沒有能力從內(nèi)部去觀察思維,所以人們總是把「智能」等同為「表現(xiàn)出智能的行為」。但當(dāng)我們看書時(shí),在外人看來并沒有任何變化,而我們自己知道,這期間產(chǎn)生了無數(shù)的聯(lián)想、頓悟、回憶。所以,「理解」是無法通過外部行為來測(cè)量的,它是一個(gè)內(nèi)在度量的指標(biāo)。

從草履蟲到人類,大自然會(huì)為每一種生物分別設(shè)計(jì)一套智能機(jī)制,還是沿用一套機(jī)制,亦或是從某一代開始出現(xiàn)某種全新的智能機(jī)制,并沿用至今(那么,最先產(chǎn)生這套智能機(jī)制的又是什么物種呢?)?我們所說的智能,是人類所獨(dú)有,還是生物的普遍特征(只是多寡之別)?而作者相信,智能不可能是上帝專為人類而設(shè)計(jì)的,它一定來自大自然的某種慣用伎倆。

大腦皮層,不管是結(jié)構(gòu)上還是功能上,都有著相同的構(gòu)造/機(jī)理(嚴(yán)格來說,這不算作者的洞見,而是早在 1978 年由 Vernon Mountcastle 發(fā)現(xiàn)的)。

由這三個(gè)洞見出發(fā),自然而然地導(dǎo)向了以下疑問:

如果智能不是由行為定義的,那該如何定義它?

向前看,智能是如何演化而來的?

向內(nèi)看,大腦皮層的結(jié)構(gòu)是如何捕捉這個(gè)世界的結(jié)構(gòu)的?

簡(jiǎn)單地說,作者的結(jié)論是:

智能并沒有人們想象的那么玄乎,它不過是一種「預(yù)測(cè)未來的能力」罷了。

這些預(yù)測(cè)的實(shí)質(zhì),不過是「生物的應(yīng)激性」在「生物自平衡機(jī)制」&「環(huán)境壓力」下產(chǎn)生的副產(chǎn)品。

智能的核心是某種「穩(wěn)定不變的東西」。而這得益于大腦皮層同質(zhì)的層級(jí)結(jié)構(gòu)。

下面,我們就來看看作者是怎么從那三個(gè)簡(jiǎn)單的洞見一步步推測(cè)出智能的本質(zhì)的。

生命的秋千

小到人體,大到經(jīng)濟(jì)系統(tǒng),復(fù)雜系統(tǒng)內(nèi)都有著一種消減沖擊、使系統(tǒng)回歸穩(wěn)態(tài)的類似機(jī)制。血糖濃度低了,胰高血糖素分泌會(huì)增加,拉高血糖;而血糖高了,胰島素分泌會(huì)增加,拉低血糖。通過調(diào)節(jié)這對(duì)激素,系統(tǒng)竭力讓血糖維持在某一范圍內(nèi)。這種自穩(wěn)態(tài)機(jī)制出現(xiàn)在生命的各個(gè)角落,保持著生命的自我平衡。

這就像一只「看不見的手」,總是想推開擠壓,同時(shí)把「逃兵」抓回來。這只「看不見的手」在我們大腦中編織了無數(shù)「正確的位置」(用腦科學(xué)家的黑話說就是「恒定表征」)。一旦偏離,我們就開始警覺起來,并調(diào)動(dòng)多個(gè)系統(tǒng)聯(lián)合應(yīng)對(duì)。舉個(gè)書中的例子,一個(gè)球飛過來,我們并不是去計(jì)算它的彈道、落點(diǎn),而是指揮肢體相應(yīng)調(diào)整,直到抓住來球。這套調(diào)整算法就是「預(yù)測(cè)」。從這個(gè)事例看,人們?cè)诮忧蜻@件事上表現(xiàn)出的智能,和草履蟲向著食物劃動(dòng)所展現(xiàn)的應(yīng)激性,又有什么本質(zhì)的分別呢?

為什么說「預(yù)測(cè)」是智能的基礎(chǔ)?

平常,人們理解的「預(yù)測(cè)」步子邁得太大了,就好比從一發(fā)球就要精準(zhǔn)地算出其落點(diǎn),而人腦的「預(yù)測(cè)」更像是「應(yīng)激」,球動(dòng)我動(dòng),一點(diǎn)點(diǎn)微調(diào)。現(xiàn)代社會(huì)發(fā)展得太快,讓我們看不清概念的歷史面貌,因而更容易被表象的迷霧困惑。當(dāng)我們走回歷史的起點(diǎn),迷霧自然散去。智能,于我們最大的益處是什么?并非創(chuàng)造什么,而是生存下去。人類無時(shí)無刻不在「生存」還是「發(fā)展」之間糾結(jié)。但很少有人看到:發(fā)展,不過是為了應(yīng)對(duì)未知的生存挑戰(zhàn)。

我們應(yīng)該怎么去定義智能呢?也許演化的歷史能告訴我們更多。智能,是幫助人類生存下去的一種能力:是讓我們可以在溪流中叉到游動(dòng)的魚兒的能力,是讓我們可以只靠一幅模糊的圖像就判斷出是朋友還是猛獸……我們應(yīng)該去研究那些「如何保持平衡」之類的問題,而不是什么彈道求解問題,那不是大自然的進(jìn)化目標(biāo),自然也得不到什么大腦的機(jī)制。

所有生存問題都可以歸結(jié)為一個(gè)元問題:如何識(shí)別出這個(gè)問題中的那些個(gè)恒定不變的東西。比如:溪流中的魚、回家的方向……如果說智能中還存在別的成分,比如:想象、創(chuàng)造工具、解決問題,都可以規(guī)約到某種抽象手段上。歸根結(jié)底,人類解決一切問題的方法只有一個(gè)——運(yùn)用抽象,在更高維度上調(diào)和矛盾。

一切繞不開「恒定表征」(invariant representations)。

抽象的本質(zhì)

就如同人們?cè)谡J(rèn)可了「負(fù)數(shù)」這一概念之后,終于能將「加法」&「減法」這兩種表象上完全不同(一個(gè)增加,一個(gè)減少)的運(yùn)算,統(tǒng)一為「整數(shù)域上的加法」。從更高的維度調(diào)和矛盾,這正是大腦皮層的構(gòu)造方式,也是其工作原理。不斷在現(xiàn)象中找到共同點(diǎn),提取出來,取個(gè)名字;這些名字又成為了上一層抽象的基石(或者叫「詞匯」)。這樣一層一層,直至得到那個(gè)智能的圣杯——恒定表征。

舉個(gè)例子,我們是如何識(shí)別邊緣的呢?

我們先來考察一小塊 3×3 的視網(wǎng)膜,分別標(biāo)記為 #1~#9 (如下圖所示)。當(dāng)一條豎線出現(xiàn)時(shí)(#1, #4, #7 均被激活),電信號(hào)傳遞到第二層。第二層的每一個(gè)神經(jīng)元,分別響應(yīng)視網(wǎng)膜上一組細(xì)胞被激活的情況。比如:第二層最左邊的那片神經(jīng)元,響應(yīng)的是單個(gè)視網(wǎng)膜細(xì)胞被激活的情況。再比如:第二層左二那片神經(jīng)元,響應(yīng)的是任意兩個(gè)視網(wǎng)膜細(xì)胞被激活的情況。以此類推……

邊緣識(shí)別:最下層是視網(wǎng)膜細(xì)胞;當(dāng)某個(gè)視網(wǎng)膜細(xì)胞組合被激活后,會(huì)激活其上一層的相應(yīng)神經(jīng)元;而上一層神經(jīng)元的某個(gè)組合被激活后,又會(huì)鏈?zhǔn)降丶せ罡弦粚拥纳窠?jīng)元如果我們把時(shí)間的因素考慮進(jìn)去,假設(shè)信號(hào)并不會(huì)馬上消失,而是隨著時(shí)間衰減,那么只要時(shí)間夠短,輸入 (#1, #4, #7)、(#2, #5, #8)、(#3, #6, #9) 這三組刺激,就會(huì)在第三層激活某個(gè)神經(jīng)元,代表「發(fā)現(xiàn)一條豎線」。

看,其實(shí)每一個(gè)神經(jīng)元都是一個(gè)「單詞」(或是「概念」/「抽象」/「特征」)。只不過低層神經(jīng)元描述的「單詞」抽象程度更低。比如:第二層那個(gè) #(1, 4, 7) 神經(jīng)元代表的是「在視網(wǎng)膜的最左邊出現(xiàn)一條豎線」,而其上層那個(gè)則沒有「在視網(wǎng)膜的最左邊」這一約束。

記憶的角色

神經(jīng)元可以在 5 毫秒內(nèi)完成信息的收集-整合-輸出,相當(dāng)于運(yùn)算速度為每秒 200 次。人類可以在半秒內(nèi)(相當(dāng)于 100 步)識(shí)別圖像、作出選擇…… 100 步,機(jī)器可做不到。在人類已知的算法里面,也許只有「打表」(把答案事先存儲(chǔ)在記憶中,用時(shí)并不作計(jì)算,而只是提?。┛梢宰龅?。所以,整個(gè)大腦皮層就是一個(gè)記憶系統(tǒng),而非什么計(jì)算機(jī)。

深度學(xué)習(xí)做對(duì)了什么?

多層網(wǎng)絡(luò),提供了逐層抽象的通道。如今,圖像識(shí)別系統(tǒng)正是這么做的:底層識(shí)別邊緣,而后識(shí)別特定形狀,再高層識(shí)別某種特征……

卷積,提供了獲得「恒定表征」的手段。

還有什么我們不知道?

當(dāng)我們想要提取某段記憶時(shí),往往只需要只言片語就行了。也就是說,記憶似乎是以一種全息的形式存儲(chǔ)的。任何片段都包含了全部。

還有,我們依然不知道大腦是怎么在 100 步內(nèi)完成決策的。我們也不知道為什么會(huì)有那么多反饋連接?軸突 v.s. 樹突在功能上有什么分別?……

現(xiàn)在讓我們回過頭來看作者的三個(gè)洞見,用黑話再講一遍就是:

理解,是對(duì)「大腦如何形成記憶,并利用這些記憶作出預(yù)測(cè)」的一個(gè)內(nèi)部度量。

預(yù)測(cè),是某種自我調(diào)節(jié)機(jī)制的副產(chǎn)品。

大腦皮層在外表 & 結(jié)構(gòu)上存在著驚人的同質(zhì)性。也就是說,大腦皮層使用相同的計(jì)算方式來完成它的一切功能。人類展現(xiàn)出來的所有智能(視覺、聽覺、肢體運(yùn)動(dòng)……)都是基于一套統(tǒng)一的算法

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 智能
    +關(guān)注

    關(guān)注

    8

    文章

    1751

    瀏覽量

    122117
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5599

    瀏覽量

    124398
  • 邊緣
    +關(guān)注

    關(guān)注

    0

    文章

    35

    瀏覽量

    2279

原文標(biāo)題:為什么大家都不戳破深度學(xué)習(xí)的本質(zhì)?!

文章出處:【微信號(hào):AI_shequ,微信公眾號(hào):人工智能愛好者社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    編寫個(gè)生產(chǎn)級(jí)的Service配置文件

    ,Restart=always 往上貼就覺得萬事大吉,結(jié)果進(jìn)程掛了不重啟、OOM 了沒人管、日志磁盤寫爆了才發(fā)現(xiàn) journald 根本沒配輪轉(zhuǎn)。
    的頭像 發(fā)表于 02-25 14:24 ?163次閱讀

    自動(dòng)駕駛中常提的模仿學(xué)習(xí)是什么?

    當(dāng)談及自動(dòng)駕駛模型學(xué)習(xí)時(shí),經(jīng)常會(huì)提到模仿學(xué)習(xí)的概念。所謂模仿學(xué)習(xí),就是模型先看別人怎么做,然后學(xué)著去做。自動(dòng)駕駛中的模仿學(xué)習(xí),就是人類司機(jī)
    的頭像 發(fā)表于 01-16 16:41 ?1994次閱讀

    機(jī)架式UPS電源深度解析

    于角落的“黑箱子”,而是深度融入IT基礎(chǔ)設(shè)施的標(biāo)準(zhǔn)化守護(hù)者。本文將為您深度解析,這個(gè)服務(wù)器機(jī)柜中的“貼身保鏢”如何工作,以及為何已成為數(shù)字世界的基石。
    的頭像 發(fā)表于 01-09 13:11 ?199次閱讀
    機(jī)架式UPS電源<b class='flag-5'>深度</b>解析

    機(jī)器學(xué)習(xí)深度學(xué)習(xí)中需避免的 7 個(gè)常見錯(cuò)誤與局限性

    無論你是剛?cè)腴T還是已經(jīng)從事人工智能模型相關(guān)工作段時(shí)間,機(jī)器學(xué)習(xí)深度學(xué)習(xí)中都存在些我們需要時(shí)刻關(guān)注并銘記的常見錯(cuò)誤。如果對(duì)這些錯(cuò)誤置之不
    的頭像 發(fā)表于 01-07 15:37 ?191次閱讀
    機(jī)器<b class='flag-5'>學(xué)習(xí)</b>和<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>中需避免的 7 <b class='flag-5'>個(gè)</b>常見錯(cuò)誤與局限性

    【社區(qū)之星】宿晶亮——一個(gè)人的愛好,足以點(diǎn)燃不設(shè)限的學(xué)習(xí)熱情

    )都有成功先例。學(xué)習(xí)電路從娃娃抓起,試想如果從小學(xué)階段就開始入門電路知識(shí),到大學(xué)畢業(yè)就已經(jīng)是個(gè)雖然沒有工作經(jīng)驗(yàn)但已入行近20年的技術(shù)人員。 學(xué)好基礎(chǔ)的數(shù)電模電,最好有興趣自學(xué),電路
    發(fā)表于 12-03 18:11

    如何深度學(xué)習(xí)機(jī)器視覺的應(yīng)用場(chǎng)景

    深度學(xué)習(xí)視覺應(yīng)用場(chǎng)景大全 工業(yè)制造領(lǐng)域 復(fù)雜缺陷檢測(cè):處理傳統(tǒng)算法難以描述的非標(biāo)準(zhǔn)化缺陷模式 非標(biāo)產(chǎn)品分類:對(duì)形狀、顏色、紋理多變的產(chǎn)品進(jìn)行智能分類 外觀質(zhì)量評(píng)估:基于學(xué)習(xí)的外觀質(zhì)量標(biāo)準(zhǔn)判定 精密
    的頭像 發(fā)表于 11-27 10:19 ?220次閱讀

    儲(chǔ)能,不只是存電那么簡(jiǎn)單

    、到底啥是儲(chǔ)能? 句話概括:儲(chǔ)能,就是能量先存起來,等到需要的時(shí)候再拿出來用的技術(shù)。 您可以它想象成
    的頭像 發(fā)表于 11-06 16:49 ?1317次閱讀
    儲(chǔ)能,不<b class='flag-5'>只是</b>存電那么簡(jiǎn)單

    自動(dòng)駕駛中常提的“強(qiáng)化學(xué)習(xí)”是個(gè)啥?

    下,就是個(gè)智能體在環(huán)境里行動(dòng),它能觀察到環(huán)境的些信息,并做出個(gè)動(dòng)作,然后環(huán)境會(huì)給出
    的頭像 發(fā)表于 10-23 09:00 ?673次閱讀
    自動(dòng)駕駛中常提的“強(qiáng)化<b class='flag-5'>學(xué)習(xí)</b>”是<b class='flag-5'>個(gè)</b>啥?

    能源管理系統(tǒng)方案:用數(shù)據(jù)管好每度電、每噸水

    能源管理系統(tǒng)方案,不是簡(jiǎn)單裝幾個(gè)表,而是套從數(shù)據(jù)采集到?jīng)Q策優(yōu)化的完整閉環(huán)。通過智能終端、通信網(wǎng)絡(luò)、管理平臺(tái)的協(xié)同,電、水、氣、冷、熱等能源使用情況“看得、管得住、降得下”。說白
    的頭像 發(fā)表于 10-20 15:29 ?373次閱讀
    能源管理系統(tǒng)方案:用數(shù)據(jù)管好每<b class='flag-5'>一</b>度電、每<b class='flag-5'>一</b>噸水

    UPS電源只是防停電?大錯(cuò)特錯(cuò)!才是設(shè)備的“全能電力衛(wèi)士”

    深夜趕稿,突然斷電,辛苦幾小時(shí)的文檔因未保存而灰飛煙滅……這種痛,經(jīng)歷次就足以刻骨銘心。于是,你果斷買了臺(tái)UPS(不間斷電源)。但你是否認(rèn)為,僅僅是
    的頭像 發(fā)表于 10-20 09:04 ?356次閱讀
    UPS電源<b class='flag-5'>只是</b>防停電?大錯(cuò)特錯(cuò)!<b class='flag-5'>它</b>才是設(shè)備的“全能電力衛(wèi)士”

    如何在機(jī)器視覺中部署深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)

    圖 1:基于深度學(xué)習(xí)的目標(biāo)檢測(cè)可定位已訓(xùn)練的目標(biāo)類別,并通過矩形框(邊界框)對(duì)其進(jìn)行標(biāo)識(shí)。 在討論人工智能(AI)或深度學(xué)習(xí)時(shí),經(jīng)常會(huì)出現(xiàn)“神經(jīng)網(wǎng)絡(luò)”、“
    的頭像 發(fā)表于 09-10 17:38 ?901次閱讀
    如何在機(jī)器視覺中部署<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>神經(jīng)網(wǎng)絡(luò)

    深度學(xué)習(xí)對(duì)工業(yè)物聯(lián)網(wǎng)有哪些幫助

    、實(shí)施路徑三個(gè)維度展開分析: 、深度學(xué)習(xí)如何突破工業(yè)物聯(lián)網(wǎng)的技術(shù)瓶頸? 1. 非結(jié)構(gòu)化數(shù)據(jù)處理:解鎖“沉睡數(shù)據(jù)”價(jià)值 傳統(tǒng)困境 :工業(yè)物聯(lián)網(wǎng)中70%以上的數(shù)據(jù)為非結(jié)構(gòu)化數(shù)據(jù)(如設(shè)備振
    的頭像 發(fā)表于 08-20 14:56 ?1025次閱讀

    自動(dòng)駕駛中Transformer大模型會(huì)取代深度學(xué)習(xí)嗎?

    [首發(fā)于智駕最前沿微信公眾號(hào)]近年來,隨著ChatGPT、Claude、文心言等大語言模型在生成文本、對(duì)話交互等領(lǐng)域的驚艷表現(xiàn),“Transformer架構(gòu)是否正在取代傳統(tǒng)深度學(xué)習(xí)”這
    的頭像 發(fā)表于 08-13 09:15 ?4184次閱讀
    自動(dòng)駕駛中Transformer大模型會(huì)取代<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>嗎?

    嵌入式AI技術(shù)之深度學(xué)習(xí):數(shù)據(jù)樣本預(yù)處理過程中使用合適的特征變換對(duì)深度學(xué)習(xí)的意義

    ? 作者:蘇勇Andrew 使用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí),網(wǎng)絡(luò)的每個(gè)層都將對(duì)輸入的數(shù)據(jù)做次抽象,多層神經(jīng)網(wǎng)絡(luò)構(gòu)成深度學(xué)習(xí)的框架,可以深度理解數(shù)
    的頭像 發(fā)表于 04-02 18:21 ?1516次閱讀

    用樹莓派搞深度學(xué)習(xí)?TensorFlow啟動(dòng)!

    介紹本頁面將指導(dǎo)您在搭載64位Bullseye操作系統(tǒng)的RaspberryPi4上安裝TensorFlow。TensorFlow是個(gè)專為深度學(xué)習(xí)開發(fā)的大型軟件庫,
    的頭像 發(fā)表于 03-25 09:33 ?1208次閱讀
    用樹莓派搞<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>?TensorFlow啟動(dòng)!