郭毅可，歐洲科學(xué)院院士、英國(guó)皇家工程院院士、香港浸會(huì)大學(xué)副校長(zhǎng)。1985年本科畢業(yè)于清華大學(xué)計(jì)算機(jī)系，1986年碩士畢業(yè)于清華大學(xué)計(jì)算機(jī)系，1993年博士畢業(yè)于倫敦大學(xué)帝國(guó)理工學(xué)院計(jì)算機(jī)系。倫敦大學(xué)帝國(guó)理工學(xué)院計(jì)算機(jī)系計(jì)算機(jī)科學(xué)教授，上海生物信息技術(shù)研究中心客座教授、首席科學(xué)家，帝國(guó)理工學(xué)院并行計(jì)算中心技術(shù)總監(jiān)，倫敦E- Science研究中心首席科學(xué)家，英國(guó)InforSense有限公司董事會(huì)主席兼首席執(zhí)行官。是國(guó)際知名的數(shù)據(jù)科學(xué)研究先驅(qū)，領(lǐng)導(dǎo)開(kāi)發(fā)數(shù)據(jù)分析和機(jī)器學(xué)習(xí)的創(chuàng)新科技。他近年集中研究數(shù)據(jù)科學(xué)和數(shù)據(jù)挖掘在生命科學(xué)、醫(yī)療保健、環(huán)境科學(xué)和創(chuàng)意設(shè)計(jì)等方面的應(yīng)用。

2020年8月22日，郭毅可院士在第三屆上海人工智能大會(huì)發(fā)表主旨演講。演講題目為：人工智能的熱望與冷思考。從倫理道德領(lǐng)域解釋了對(duì)人工智能的冷靜思考。(以下是演講實(shí)錄)

大家都知道這幾年人工智能的發(fā)展，大家都抱有很大的希望，在這個(gè)希望中間我們也看到人工智能的發(fā)展剛剛開(kāi)始，有許多重要的問(wèn)題需要研究，從這個(gè)意義上來(lái)說(shuō)，我們需要用冷靜的頭腦思考它的發(fā)展方向，來(lái)考慮一些根本性的問(wèn)題。

一、人工智能的發(fā)展要素 1、高質(zhì)量的數(shù)據(jù)資源、大數(shù)據(jù) 2、處理數(shù)據(jù)非常好的學(xué)習(xí)算法 3、支撐算法的算力 我們?cè)趺礃荧@得這些大數(shù)據(jù)？這需要有一個(gè)很好的基礎(chǔ)架構(gòu)，也就是需要有一個(gè)很好的數(shù)據(jù)生態(tài)環(huán)境，數(shù)據(jù)資產(chǎn)化技術(shù)，也就是今天發(fā)展很快的區(qū)塊鏈技術(shù)。 如何把人工智能利用到實(shí)際過(guò)程當(dāng)中去，用到生活中？這中間需要一個(gè)非常重要的能力——交互能力。在人和機(jī)器在一起的時(shí)候，我們的形式變化，也是支撐人工智能發(fā)展的一個(gè)重要的因素。如果我們不重視這個(gè)因素的話，那么人工智能的發(fā)展也不可能健康，也很難取得進(jìn)步。

二、人工智能的發(fā)展方向

1、機(jī)器學(xué)習(xí)的內(nèi)涵

所謂的機(jī)器學(xué)習(xí)就是我們機(jī)器獲得知識(shí)的能力，談到演變，剛才講了三個(gè)方向，數(shù)據(jù)量、算法越來(lái)越豐富，還有就是算力越來(lái)越強(qiáng)大。這三個(gè)方向同時(shí)作用，導(dǎo)致了今天獲取知識(shí)，從手工獲取不需要數(shù)據(jù)量，到了我們可以向機(jī)器描述一些邏輯規(guī)則，我們把知識(shí)直接告訴他們，還有一個(gè)就是中數(shù)據(jù)量，來(lái)進(jìn)行機(jī)器學(xué)習(xí)，建立一些中等數(shù)據(jù)量的模型，最后是數(shù)據(jù)挖掘，一直到今天的深度學(xué)習(xí)，主要是大數(shù)據(jù)量，一個(gè)比較復(fù)雜的算法，超強(qiáng)的計(jì)算能力來(lái)支撐的。這里面很重要的一點(diǎn)，就是知識(shí)獲取的自動(dòng)化程度越來(lái)越高。

郭毅可院士視頻演講現(xiàn)場(chǎng)

2、從認(rèn)知學(xué)角度看機(jī)器學(xué)習(xí)

機(jī)器學(xué)習(xí)有很多說(shuō)法，也有很多數(shù)學(xué)模型，但是我們講到底，機(jī)器學(xué)習(xí)和人腦學(xué)習(xí)的基本邏輯和基本過(guò)程是類(lèi)似的。我們首先通過(guò)一個(gè)觀察，來(lái)獲得信息，也就是觀察結(jié)果數(shù)據(jù)，知識(shí)是通過(guò)模型來(lái)表達(dá)的，腦里的知識(shí)也是一種模型，對(duì)世界的看法，通過(guò)觀察獲得的抽象看法。在這樣的模型當(dāng)中，我們做什么事情呢？對(duì)這個(gè)世界要做學(xué)習(xí)判斷，如果說(shuō)我們觀察，我看到了和我腦子中得出的判斷或者說(shuō)某種預(yù)測(cè)相一致的話，這個(gè)時(shí)候我們就認(rèn)為模型是正確的模型，我們不會(huì)做什么太多的動(dòng)作，只是得到一些驗(yàn)證，但是如果說(shuō)這個(gè)模型和觀察不準(zhǔn)，就會(huì)出現(xiàn)所謂的預(yù)測(cè)誤差，這個(gè)預(yù)測(cè)誤差會(huì)導(dǎo)致人做幾件事情，第一件事情，我們要改變模型，我們相信觀察是正確的，于是就要對(duì)模型做一些變化。還有一種可能，就是我們認(rèn)為模型是怎么樣的，我們要做什么，這個(gè)不一致就導(dǎo)致了我們對(duì)這個(gè)世界要做一些改變，改變認(rèn)知是學(xué)習(xí)，改變世界是行動(dòng)，這就是認(rèn)知學(xué)簡(jiǎn)單來(lái)講對(duì)機(jī)器學(xué)習(xí)的理解。

3、機(jī)器學(xué)習(xí)的表達(dá)形式

● 找到效用函數(shù)我們?cè)诖竽X當(dāng)中有表達(dá)形式，在現(xiàn)在的機(jī)器學(xué)習(xí)上，表達(dá)模型的形式基本上就是一個(gè)函數(shù)，也就是說(shuō)我們學(xué)習(xí)的目的是找到這樣的一種函數(shù)，這個(gè)函數(shù)使得結(jié)果和我們的觀察比較一致，這就表達(dá)為上面的公式，誤差最小化。學(xué)習(xí)的目的一個(gè)是找到函數(shù)的形式，一個(gè)是找到函數(shù)的參數(shù)，不管學(xué)習(xí)是什么樣的，工作的目標(biāo)都是一致的，就是找到這樣一個(gè)模型，這個(gè)模型能夠和學(xué)習(xí)目標(biāo)有一致性，來(lái)達(dá)到這樣的目的。所以學(xué)習(xí)是一種過(guò)程，有一段話，是關(guān)于現(xiàn)在學(xué)習(xí)的一種抽象的概括，圖靈獎(jiǎng)獲得者講的一句話，需要對(duì)現(xiàn)在的人工智能在一個(gè)大樣本上進(jìn)行描述，這個(gè)觀點(diǎn)還是比較客觀的。 現(xiàn)在我們就要問(wèn)幾個(gè)問(wèn)題，在這樣的學(xué)習(xí)框架下，我們?cè)趺礃酉驒C(jī)器表達(dá)，反過(guò)來(lái)講就是剛才所說(shuō)的一個(gè)很重要的前提，我們要用機(jī)器表達(dá)我們學(xué)習(xí)的目的，一個(gè)模型和觀察之間的隱私性，這樣的一個(gè)說(shuō)法，總是以這樣一個(gè)效用函數(shù)來(lái)表達(dá)，要么最大化要么最小化，不管怎么說(shuō)，這個(gè)時(shí)候我們要求一個(gè)函數(shù)A可能是一個(gè)參數(shù)，或者說(shuō)是一種行為，或者說(shuō)是強(qiáng)化學(xué)習(xí)，如果是一般性就是一個(gè)參數(shù)，在這個(gè)參數(shù)取得的情況下，取得一個(gè)X概率，要求平均的損失是最大和最小，如果說(shuō)收益的話最大，就是這樣一個(gè)模式，首先要確定一些參數(shù)，找到參數(shù)，然后參數(shù)的目標(biāo)是要求平均的損失和平均收益，是最大還是最小，損失最小，收益最大。這個(gè)時(shí)候我們做的時(shí)候要求求出來(lái)的函數(shù)和觀察級(jí)之間的誤差最小，強(qiáng)化學(xué)習(xí)就要求最大，強(qiáng)度最高，對(duì)于不同的行為要求平均的獎(jiǎng)勵(lì)是最高的。這就是效率。 我們?nèi)烁嬖V機(jī)器做什么，如果說(shuō)要求機(jī)器做的更多的話，要求不僅要達(dá)到最好的結(jié)果，同時(shí)要滿足一定的倫理要求，這樣的話用這樣的效率函數(shù)來(lái)表達(dá)是非常不容易的。 ● 效用函數(shù)求優(yōu)找到最大或者最小的參數(shù)，先不講求優(yōu)的過(guò)程，未必能找到最優(yōu)的結(jié)果，我們用算法來(lái)保證。第二個(gè)問(wèn)題在于我們這樣的模型，因?yàn)閿?shù)據(jù)觀察的弊端改變，實(shí)際上這種模型需要遷移，也就是說(shuō)模型本身需要不斷變化，這個(gè)時(shí)候我們就有一個(gè)很大的問(wèn)題，就是模型的進(jìn)化，數(shù)據(jù)變化之后能不能優(yōu)化。還有一個(gè)很大的問(wèn)題，求優(yōu)的過(guò)程是學(xué)習(xí)的過(guò)程，這樣的過(guò)程往往是很難理解的，求優(yōu)的時(shí)候的含義我們并不清晰，所以怎么辦，為了求優(yōu)，我們必須要調(diào)整參數(shù)，這些調(diào)參，我們?cè)趺礃痈淖?，這個(gè)有點(diǎn)像一個(gè)煉金術(shù)，我們并不知道，這些都是會(huì)導(dǎo)致很大的問(wèn)題，首先第一個(gè)模型是不是可以進(jìn)化，第二個(gè)這個(gè)學(xué)習(xí)過(guò)程，是不是能夠被解釋?zhuān)@些都是很重要的問(wèn)題。

4、機(jī)器行為

這個(gè)行為是指人對(duì)機(jī)器的感知，這個(gè)時(shí)候就有很多問(wèn)題，比如說(shuō)機(jī)器和人一起診斷看病，這是對(duì)行為的一個(gè)很大的要求，要行為能夠解釋?zhuān)覀兡軌蝌?yàn)證正確性，這個(gè)行為這個(gè)決斷是不是正確，憑什么我要相信你，還有一個(gè)很重要的就是右邊的圖，一個(gè)軍事行為的應(yīng)用，怎么樣保證整個(gè)操作，什么時(shí)候可以開(kāi)槍?zhuān)裁磿r(shí)候必須考慮到平民傷亡等等，這些都是非常重要的行為準(zhǔn)則。 講到機(jī)器行為，我們可以稍微做一個(gè)抽象的解釋。(行為四要素） ● 行為的目的是不是能夠按照人的意圖去改變周?chē)沫h(huán)境，這個(gè)非常重要。也就是說(shuō)你的目的是好的還是壞的，是合理的還是不合理的。 ● 行為的原則做事情的基本原則，你知道什么是錯(cuò)的，什么是不能做的，是不違背人類(lèi)的倫理和規(guī)范。 ● 行為的結(jié)果結(jié)果是不是你應(yīng)該做的事情。 ● 行為的依據(jù)你得出來(lái)的結(jié)果是為什么得出這樣的結(jié)果，根據(jù)是什么。 5、機(jī)器學(xué)習(xí)應(yīng)用的倫理思考 ● 政治 撰寫(xiě)一個(gè)新聞，原則是不是可以被理解，這個(gè)原則是不是合理的，怎么對(duì)新聞的生成算法有可靠性。比如說(shuō)現(xiàn)在的深度構(gòu)架，這里面有一張照片，蔡英文背后的一張照片，背后是毛主席長(zhǎng)征，這樣的照片，當(dāng)然還有很有意思的新聞效果，但是這是真的還是假的，還有就是法律，如果機(jī)器人對(duì)一些案例做一些機(jī)器判斷，有沒(méi)有偏見(jiàn)，是否有不可預(yù)測(cè)的后果，也就是說(shuō)實(shí)際上這樣的投放會(huì)導(dǎo)致什么問(wèn)題，原來(lái)犯罪率很低的問(wèn)題犯罪率高起來(lái)了。 ●營(yíng)銷(xiāo)推薦系統(tǒng)，我們要考慮對(duì)消費(fèi)者的損害。有一個(gè)說(shuō)法是過(guò)于泡沫，一個(gè)推薦我喜歡什么，一直向我推薦我喜歡的，于是乎就形成了一個(gè)泡沫，我只喜歡原來(lái)喜歡的東西，我自己給自己構(gòu)造了一個(gè)局限，這種事情是不是合理的。 ●金融算法定價(jià)，算法定價(jià)的原則是什么，是價(jià)格公平嗎？還是說(shuō)競(jìng)爭(zhēng)，是否會(huì)造成惡性競(jìng)爭(zhēng)或者價(jià)格戰(zhàn)。我們都知道我們買(mǎi)飛機(jī)票都有一個(gè)算法定價(jià)問(wèn)題，因?yàn)樗惴ǘ▋r(jià)常常會(huì)造成一個(gè)很大的矛盾，看到下雨了需要打車(chē)，這個(gè)某種程度上來(lái)講，最大化商業(yè)利益，倫理是不是正確的，這些都是很重要的要考慮的問(wèn)題。 ●智能汽車(chē)真正要投入使用，倒不是技術(shù)難點(diǎn)，加上自動(dòng)駕駛最大的問(wèn)題是路權(quán)選，誰(shuí)有權(quán)用這個(gè)路，如果兩個(gè)車(chē)一起開(kāi)，必須保證對(duì)人的傷害最小，如果說(shuō)人和機(jī)器在同一個(gè)路上的話，如果人知道有這樣一個(gè)基本原理，可以惡性和機(jī)器進(jìn)行較量，這樣的話車(chē)永遠(yuǎn)開(kāi)不了，這種情況下怎么解決路權(quán)選擇的問(wèn)題，人開(kāi)的車(chē)和機(jī)器開(kāi)的車(chē)怎么做路權(quán)選擇。做城市管理的時(shí)候有一個(gè)道路交通管理，這些方面的平衡，人工智能怎么來(lái)做，也是一個(gè)非常重要的話題。 ●機(jī)器診斷診斷是否可以驗(yàn)證，健康監(jiān)護(hù)，各種錯(cuò)誤的代價(jià)，對(duì)于緊急情況如何做應(yīng)對(duì)的，這些都是很大的問(wèn)題。 ●社會(huì)信用體系與社會(huì)交流信用低的人剝奪權(quán)利，是不是在一個(gè)的管理當(dāng)中是真正合法的，和我剛才說(shuō)的是一樣的，如果說(shuō)真的做交流的話，未必改變社會(huì)關(guān)系的組成架構(gòu)，家庭也有，聊天及其對(duì)聊天者的心理影響，性愛(ài)機(jī)器人是否會(huì)改變?nèi)祟?lèi)的自然感情，這些問(wèn)題都是在我們理解機(jī)器行為上是非常重要的一些例子。

三、人工智能研究的重要問(wèn)題 1、如何向機(jī)器表達(dá)對(duì)的目的，也是未來(lái)的重要問(wèn)題。未來(lái)的人工智能，我們不求讓機(jī)器做的多，而是要求機(jī)器做的對(duì)。做的多應(yīng)該是相對(duì)容易的，但是要機(jī)器做的對(duì)，就不是那么容易了，我們這里面考慮的是什么是對(duì)，這個(gè)行為原則，如何向機(jī)器表達(dá)對(duì)的目的，告訴你怎么做什么事情，怎么告訴是準(zhǔn)確，怎么樣告訴是有效，怎么樣告訴是真正的能夠表達(dá)的清晰一點(diǎn)，這又是一個(gè)問(wèn)題。 2、如何判斷機(jī)器做的對(duì)不對(duì)，假定說(shuō)我已經(jīng)表達(dá)的很清楚了，以前的結(jié)果和現(xiàn)在的結(jié)果有一個(gè)驗(yàn)證。還有一種理解機(jī)器做的對(duì)的緣由，機(jī)器行為的解釋和驗(yàn)證，這些都是需要論證的。 ● 什么是對(duì)這就是最難的，這就是人工智能的倫理問(wèn)題，這是一個(gè)哲學(xué)問(wèn)題，這里面有很多的原則，這三大原則非常重要，對(duì)于什么是對(duì)的，在不同的社會(huì)環(huán)境和價(jià)值體系當(dāng)中都是不一樣的，有些我覺(jué)得是對(duì)的，比如說(shuō)我們舉個(gè)例子，首先是要有利他主義，什么意思呢？不是利己，是幫助人類(lèi)，而不是利益自己。第二個(gè)是謙遜法則，我需要把人類(lèi)價(jià)值最大化，但是不知道人類(lèi)價(jià)值到底是什么，不能夠凌駕我們之上。第三個(gè)是學(xué)習(xí)能力，不僅是自身學(xué)習(xí)，也可以觀察我們來(lái)進(jìn)行學(xué)習(xí)，或者說(shuō)用機(jī)器語(yǔ)言來(lái)間接學(xué)習(xí)，從這些方面來(lái)學(xué)習(xí)知識(shí)和數(shù)據(jù)。當(dāng)然這只是一種，很多人都有不同的理解。 ● 怎么表達(dá)對(duì)什么樣的效用函數(shù)可以表達(dá)我們的目的，這是模型形態(tài)，而不是說(shuō)控制行為方式。效用函數(shù)是合理的或者說(shuō)有效的方式嗎？拿這個(gè)效率函數(shù)來(lái)做人工智能，怎么樣來(lái)衡量一個(gè)行為，怎么樣定義這個(gè)行為，人工智能是怎樣理解的。最大自由化是好現(xiàn)象嗎？每個(gè)個(gè)體的最大自由化就是無(wú)政府主義了。驗(yàn)證這個(gè)函數(shù)的證據(jù)是什么，這個(gè)機(jī)器行為可以用效用函數(shù)來(lái)完全確定嗎？經(jīng)濟(jì)學(xué)有兩個(gè)重要的研究，代理人原則，機(jī)器人代理了我們的事情，找任何代理人的時(shí)候都碰到一個(gè)矛盾，要確定這個(gè)代理人是以你的利益最大化為原則，還是以自己的利益最大化為原則。比如說(shuō)我們找律師，這個(gè)律師到底是為我找官司，還是說(shuō)想把這個(gè)問(wèn)題搞的更復(fù)雜一點(diǎn)。還有一個(gè)不可預(yù)知原則，你表達(dá)的事情是好事情，但是往往找到不想要的結(jié)果。這兩個(gè)原則都使得我們要認(rèn)真思考，如何向機(jī)器表達(dá)我們的目標(biāo)。 ● 如何判斷機(jī)器做的對(duì)不對(duì) 第一個(gè)驗(yàn)證方法就是和目標(biāo)是否一致，另一個(gè)是求得最優(yōu)。這里面有兩個(gè)場(chǎng)景，如果說(shuō)這兩條曲線，一個(gè)是更精確，還有一個(gè)是敏感度要求更高，這兩個(gè)不是一個(gè)事情，有一個(gè)就是假定模型，這個(gè)模型很有意思，有哮喘的肺炎患者，死于肺炎的可能性較小，這合理嗎？不合理，如果有哮喘應(yīng)該死亡率高，為什么反而低了。因?yàn)橛邢芸炀蜁?huì)受到正常的照顧，這樣的話反而容易生存，所以數(shù)據(jù)不足，所以說(shuō)90%的AI結(jié)構(gòu)都是沒(méi)有驗(yàn)證的。 ● 如何理解機(jī)器做的對(duì)的緣由 現(xiàn)有的深度學(xué)習(xí)模型不能向用戶解釋其行為，設(shè)計(jì)者也無(wú)法理解其行為過(guò)程。這當(dāng)中有很多研究，有一些早期的工作，比如說(shuō)現(xiàn)在要拿一個(gè)深度神經(jīng)網(wǎng)絡(luò)，判斷這是什么動(dòng)物，但是有一個(gè)很大問(wèn)題，我學(xué)了一個(gè)模型，我給出一個(gè)斑馬的圖形，你可能就判斷出行分布了。這個(gè)時(shí)候怎么樣來(lái)學(xué)習(xí)，把一些圖片特征編碼，每一段編碼或者數(shù)字代表了什么含義，這樣可以通過(guò)一個(gè)學(xué)習(xí)辦法，把人的特征一起進(jìn)行學(xué)習(xí)，這就有一個(gè)很大的好處，等于說(shuō)你做了人的標(biāo)注，如果說(shuō)這些過(guò)程最重要的原則是用空間來(lái)解釋?zhuān)覀儸F(xiàn)在做的工作把這個(gè)概念再擴(kuò)大一些。

四、人工智能的今天和明天 人機(jī)共生世界，在人機(jī)共生的社會(huì)中，人和機(jī)器的互相交流是最重要的，人要理解機(jī)器的行為，機(jī)器要理解人的意圖。對(duì)機(jī)器行為的解釋?zhuān)斫夂万?yàn)證，以及機(jī)器行為的倫理性是人工智能研究的核心課題。學(xué)習(xí)的可解釋性是一個(gè)方向，還有一個(gè)方向就是向機(jī)器表達(dá)，作為對(duì)機(jī)器行為的解釋和驗(yàn)證，以及機(jī)器行為的倫理是核心的問(wèn)題，在沒(méi)有解決這些問(wèn)題之前，或者說(shuō)這些問(wèn)題沒(méi)有被深入理解之前，我們奢談人工智能將來(lái)什么樣，人工智能會(huì)不會(huì)導(dǎo)致機(jī)器統(tǒng)治人類(lèi)來(lái)為時(shí)過(guò)早。 我們不要神話它：它是實(shí)實(shí)在在的算法。 我們不要害怕它：它是不可避免的未來(lái)。 我們不要輕視它：它會(huì)改變我們的社會(huì)。 我們不要忽悠它：它不是靠錢(qián)可以堆出來(lái)的。 我們要以我們東方文明特有的包容來(lái)研究和應(yīng)用它，把它作為我們社會(huì)新的存在，想如何和它共處。 這是我理解的發(fā)展方向。謝謝大家！

文章內(nèi)容轉(zhuǎn)載自《戰(zhàn)略前沿技術(shù)》

原文標(biāo)題：歐洲科學(xué)院院士郭毅可：人工智能的熱望與冷思考

文章出處：【微信公眾號(hào)：工業(yè)4俱樂(lè)部】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。