2019年1月8日，湛廬成功舉辦了“CHEERS2019·湛廬年度大會(huì)”。本文是電子科技大學(xué)教授、“數(shù)據(jù)少帥”周濤老師的演講內(nèi)容，他的分享以中立性、時(shí)效性、導(dǎo)向性、邊界性等4個(gè)大維度展開，由此叩問了4個(gè)亟待思考的大問題。在技術(shù)樂觀派和悲觀派都無所適從的當(dāng)下，他對(duì)于技術(shù)的警覺且樂觀充滿了敏銳的洞察力，發(fā)人深省。

（以下內(nèi)容據(jù)周濤現(xiàn)場(chǎng)演講記錄整理，速記及圖片來自湛廬閱讀）

我們現(xiàn)在處在信息爆炸的時(shí)代，全世界存儲(chǔ)的信息總量大概有16ZB，也就是1600萬PB，再過十年這個(gè)數(shù)字還會(huì)翻十倍以上，超過200ZB。

來源：現(xiàn)場(chǎng)PPT

擁有這么多數(shù)據(jù)并不代表我們能駕馭它，我們窮其一生都不可能把這些題目讀一遍。所以很大程度上我們依賴于各種各樣的信息中介，搜索得到的廣告推薦無一不是從這些平臺(tái)而來。所以，與其說我們是數(shù)據(jù)的駕馭者，不如說我們就像一個(gè)嬰兒，因?yàn)槲覀兘邮艿氖切畔⒅薪槲沟囊簧咨住笆澄铩?，我們不知道里面有多少營(yíng)養(yǎng)，又有多少有害物質(zhì)。

人類花了幾百萬年的時(shí)間才適應(yīng)從樹上跳躍到用雙腳在大地上行走，但是人類從一個(gè)信息極度匱乏的時(shí)代，到現(xiàn)在信息高度富余的時(shí)代只經(jīng)歷了20年。我本人就是在2000年發(fā)出自己的第一封郵件。所以一個(gè)很重要的問題是：我們這個(gè)社會(huì)是否真正為所謂的大數(shù)據(jù)時(shí)代做好了準(zhǔn)備。

今天我將從四個(gè)方面來談大數(shù)據(jù)和人工智能可能帶來的挑戰(zhàn)：

1.中立性

很多人認(rèn)為技術(shù)總體來說是中立的，它理性、客觀、中立，沒有偏差，沒有歧視。但是實(shí)際并非如此。

舉個(gè)例子，60多年前，羅伯特·摩西斯在紐約做了中央花園的建設(shè)，在他的設(shè)計(jì)中，通向中央花園的長(zhǎng)長(zhǎng)的走廊的前邊有一個(gè)低矮的橋頭。那時(shí)美國(guó)大部分窮人和有色人種的出行方式都是公交車，但是公交車很高，沒有辦法從橋下開過去。這個(gè)看起來中立的設(shè)計(jì)，其實(shí)就使得紐約的中央花園基本變成了富人和白人的樂園。在當(dāng)時(shí)看來這種歧視是無處不在的，但現(xiàn)在我們來看這是不可容忍的歧視。所以一個(gè)設(shè)計(jì)即便是嵌入到城市中，它依然有可能帶來我們不容易發(fā)現(xiàn)的一種歧視。

來源：現(xiàn)場(chǎng)PPT

2018年初，有一篇文章講述了一個(gè)很有趣的故事，有人設(shè)計(jì)了一套推薦系統(tǒng)，這個(gè)系統(tǒng)專門給求職的人推薦一些高端的職位，但這個(gè)設(shè)計(jì)對(duì)女性來說是不公平的。在中國(guó)，薪水前1%的人群里面，每9個(gè)男人才有1個(gè)女人，而在美國(guó)這個(gè)數(shù)字是7：1，在日本這個(gè)數(shù)字是33：1。

這條系統(tǒng)最初的目的很簡(jiǎn)單，就是盡可能讓推薦的職位和求職者互相匹配，最終實(shí)現(xiàn)一次成功的招聘。但是它很聰明，它超出了我們很多倫理和道德的約束，因?yàn)樗詣?dòng)認(rèn)識(shí)到了性別這個(gè)特征非常重要，于是它自己知道，我要盡可能地向男性推薦這些高端職位，少向女性推薦。

在這個(gè)系統(tǒng)運(yùn)行一年多后，開發(fā)者發(fā)現(xiàn)女性獲得高端職位的信息量比以前少了，這時(shí)他們才反省到，一個(gè)看起來越來越精確的系統(tǒng)，客觀上有可能讓女性獲得高端職位的可能性進(jìn)一步降低。原來他們?cè)讷@得同等信息暴露的情況下，男女比例是7：1，如果聰明的計(jì)算機(jī)接管了這個(gè)推薦系統(tǒng)，未來比例可能在北美就不是7：1，而是10：1，15：1，20：1，所以一個(gè)善良的計(jì)算機(jī)的程序依然有可能導(dǎo)致不公正的結(jié)果。

來源：現(xiàn)場(chǎng)PPT

我從2007年開始就做推薦系統(tǒng)，在所有的廣告推薦中，一個(gè)很自然的維度就是要考慮用戶的價(jià)格敏感度——看他購(gòu)買的東西在整個(gè)三級(jí)品類中的價(jià)格排名如何。如果你買了一支八千塊錢的萬寶龍的筆，那你肯定是富人；如果你買了一輛八千塊錢的二手奧拓汽車，那你肯定是窮人。

可以想象，隨著時(shí)間的推移，我們對(duì)信息中介的依賴越來越強(qiáng)，當(dāng)我們到了新城市，可能需要計(jì)算機(jī)推薦一條一日游的路線；當(dāng)我們要看慕課，計(jì)算機(jī)就會(huì)推薦課程，而這個(gè)時(shí)候，聰明的計(jì)算機(jī)會(huì)根據(jù)每個(gè)人的家庭出身和原有的學(xué)習(xí)情況等，做出不一樣的推薦。也就是說，富人和窮人有可能會(huì)抵達(dá)城市中不同的角落，學(xué)習(xí)不同的課程，在很小的時(shí)候就規(guī)劃不同的人生。

那么，數(shù)字化、信息化，甚至說大數(shù)據(jù)、人工智能發(fā)展五年、十年、二十年后呢，它們到底是會(huì)減弱不同階級(jí)間的鴻溝，還是在某些時(shí)候，某些場(chǎng)景，會(huì)加劇這種鴻溝？這是我希望大家去思考的第一個(gè)問題。

2.時(shí)效性

2013年我翻譯了《大數(shù)據(jù)時(shí)代》，書里面有一個(gè)故事，它講未來有可能很可怕，我們可能會(huì)為還未發(fā)出的罪行而付出代價(jià)，因?yàn)橛?jì)算機(jī)提前預(yù)測(cè)你會(huì)犯罪，提前逮捕了你。

比如，美國(guó)國(guó)土安全局會(huì)根據(jù)一個(gè)人的面部長(zhǎng)相、姓名、宗教信仰，以及過往的資金流，交通出行的軌跡、通話人的記錄，等等，來判斷一個(gè)人疑似***的可能性有多大。可汗就是一個(gè)非常典型的受害者，他實(shí)際上是一個(gè)無辜的人，但因?yàn)楸灰暈楦叨?**，每次他到機(jī)場(chǎng)都需要提前五個(gè)小時(shí)登機(jī)，因?yàn)樗?jīng)常會(huì)被安檢四個(gè)小時(shí)。

來源：現(xiàn)場(chǎng)PPT

如果說恐怖主義距離我們很遠(yuǎn)，那大家可以想象一下酒駕。酒駕入刑在中國(guó)已經(jīng)有十年了，這意味著喝酒駕車就是犯罪，這個(gè)犯罪背后的法理是很必要的，就好像危害公共安全法是一樣的道理。酒駕并不是在全世界處處皆準(zhǔn)，比如在瑞士，大家喝完啤酒開車很正常，這是一種生活方式。禁止酒駕某種意義上講給了我們更多的安全，但是犧牲了一種生活方式。

如果我們?cè)偻白咭稽c(diǎn)，假設(shè)二十年后，那時(shí)無人駕駛成為一種主流交通方式，我們完全相信，絕大部分交通事故，尤其是惡性交通事故應(yīng)該是由真人駕駛造成的。我想問大家，如果在座的各位接受了酒駕入刑，那么在二十年以后有沒有可能接受把真人駕車視為一種違法行為呢？這是我希望大家考慮的第二個(gè)問題——有多少安全舒適，多少對(duì)未來的焦慮，都要和我們當(dāng)前的生活模式做一個(gè)平衡。

上邊講的是為某種未來可能性付出代價(jià)，那么，反過來講，可能中學(xué)的時(shí)候我們因?yàn)橐淮螞_動(dòng)打架留下了不良的記錄；可能大學(xué)的時(shí)候我們?yōu)榱苏?，為了買部蘋果手機(jī)，借了校園貸卻沒有及時(shí)還款，那么，這些記錄就有可能在五年、十年后影響你申請(qǐng)購(gòu)房貸款，影響你買車，甚至影響你的融資。

來源：現(xiàn)場(chǎng)PPT

中國(guó)有句古話說“浪子回頭金不換”，這是因?yàn)槟愕母改?、親人和朋友能夠努力忘掉你的過去，相信有一個(gè)全新的你出現(xiàn)。人類之所以如此睿智就是因?yàn)槎眠z忘，甚至某些時(shí)候我們努力遺忘，但是計(jì)算機(jī)恰恰相反，它的特別能力就是永不遺忘，它能在五年、十年、五十年、一百年都保留著你過去的信息。

希望大家在時(shí)效性這個(gè)方向思考的問題是，如果我們有可能會(huì)為還沒有到來的未來提前付出代價(jià)，又有可能因?yàn)檫^去而影響我們的現(xiàn)在，那我們應(yīng)該做什么選擇？我們是不是只能夠戰(zhàn)戰(zhàn)兢兢，亦步亦趨地沿著所謂的主流價(jià)值觀前進(jìn)？

大家應(yīng)該知道，中國(guó)最可怕的一件事情就是主流價(jià)值觀駕馭了一代又一代的人，我們的小孩從小就要讀重點(diǎn)小學(xué)、重點(diǎn)中學(xué)，然后是讀重點(diǎn)大學(xué)，去一流企業(yè)，考公務(wù)員，讀研究生，要活得像其他人眼中成功的樣子。這樣的主流價(jià)值觀已經(jīng)束縛了我這一代人，未來人工智能、大數(shù)據(jù)的發(fā)展是會(huì)像大家想象的一樣給我們帶來多樣性的世界，還是與之相反，會(huì)給我們更大的束縛？

3.導(dǎo)向性

為什么講這個(gè)？因?yàn)樯鐣?huì)往前發(fā)展要有一個(gè)總的社會(huì)福利增加方向，但是計(jì)算機(jī)不一定這樣想問題。舉個(gè)簡(jiǎn)單的例子，以前我們看新聞都是按點(diǎn)擊付費(fèi)，所以會(huì)有很多標(biāo)題黨，希望大家盡快點(diǎn)進(jìn)去。大家看這張黃黃的圖片，是2017年某知名搜索網(wǎng)站圖片搜索第一名，題目叫做“黃色圖片”，但是我相信大家點(diǎn)開看到這張圖片恐怕是失望的。

來源：現(xiàn)場(chǎng)PPT

這種事情好解決，我們可以想辦法改變函數(shù)，使得計(jì)算機(jī)的目標(biāo)，或者人工智能的目標(biāo)，與人類的正常福利目標(biāo)一致。比如說，不僅僅是點(diǎn)開率，還有點(diǎn)開新聞之后用戶在頁面停留的時(shí)間，這個(gè)頁面在第一窗口停留的時(shí)間，或者是微信轉(zhuǎn)發(fā)數(shù)、點(diǎn)贊數(shù)等等，這樣的話似乎矛盾就消失了。

但有時(shí)候這種矛盾是長(zhǎng)期且不可能消失的。2014年，我們團(tuán)隊(duì)有一位副教授到明尼蘇達(dá)大學(xué)做了一個(gè)聯(lián)合項(xiàng)目，是一款網(wǎng)絡(luò)游戲。一個(gè)問題是，當(dāng)資源有限時(shí)我們要如何分配這些資源，比如說，每天拿出價(jià)值十萬美元的裝備免費(fèi)發(fā)給所有的玩家，那這些裝備給誰呢？這是一個(gè)典型的優(yōu)化問題，大規(guī)模機(jī)器學(xué)習(xí)的問題。

事實(shí)上，我們確實(shí)成功使得玩家們?cè)谟螒蛑谢ㄙM(fèi)的時(shí)間比之前增加了20%，現(xiàn)在國(guó)內(nèi)知名短視頻平臺(tái)也把用戶連續(xù)使用APP的時(shí)間，從原來的十幾分鐘提高到了三十多分鐘。

這些技術(shù)可以用在好的地方，比如在進(jìn)行網(wǎng)絡(luò)課程學(xué)習(xí)的時(shí)候，計(jì)算機(jī)可以通過大家的行為分辨學(xué)習(xí)難點(diǎn)，找到學(xué)習(xí)重點(diǎn)，從而幫助大家更好的學(xué)習(xí)。當(dāng)這種技術(shù)被用在游戲和短視頻中，則使得用戶更沉迷其中，從商業(yè)角度來說是成功的，因?yàn)樽層脩舾嗟耐嬗螒?，從用戶的角度來講也是成功的。當(dāng)我們硬幣的兩面都是成功的時(shí)候，就沒有任何力量站起來破壞這種成功。

所以，這是我希望大家思考的第三個(gè)問題，人工智能和大數(shù)據(jù)前進(jìn)的方向可能會(huì)做到面面俱到，讓每一方都滿意，但是它不一定會(huì)給社會(huì)帶來福利。

4.邊界性

有些東西人工智能可以做，但是我們要思考要不要讓它做。

我們可以通過計(jì)算機(jī)識(shí)別人的表情，通過微表情和姿態(tài)，從而判斷你心中真實(shí)的想法。以前我們測(cè)謊要用腦電波、電極，再加上測(cè)試你的心跳、心率、脈搏、體表電解質(zhì)、導(dǎo)電水平，現(xiàn)在有一個(gè)技術(shù)叫做不接觸測(cè)謊，只用攝像頭看你，不需要用任何物理接觸，就能精確判斷你是不是在說謊。也就是說，人工智能實(shí)際上有一種能力，它比較容易判斷大家有沒有在說真話，它能夠判斷你是不是真喜歡他，相親對(duì)象對(duì)你有沒有好感，等等。

也許未來你只需要一個(gè)十塊錢的APP，再加上一個(gè)攝像頭，就能知道那個(gè)說喜歡你的男生是不是真的喜歡你。

來源：現(xiàn)場(chǎng)PPT

現(xiàn)在就回到一個(gè)問題，我們經(jīng)常說人類社會(huì)的基石是真相，我們需要真相。但從某種意義上講，我認(rèn)為人類社會(huì)的基石不僅有真相，還要有謊言，沒有真相的社會(huì)不能想象，但沒有謊言的社會(huì)一定也是苦不堪言，相信各位應(yīng)該都已經(jīng)意識(shí)到謊言有多么重要。

如果人工智能讓我們沒有辦法說謊，那社會(huì)真的會(huì)繁榮，人們真的會(huì)幸福嗎？這是我希望大家考慮的第四個(gè)問題，我們到底要把能夠讓人工智能發(fā)揮作用的邊界畫在哪里？什么時(shí)候？哪些地方？

不管你來自哪個(gè)行業(yè)，一個(gè)以大數(shù)據(jù)為原材料，以智能算法為引擎的新科技時(shí)代呼之欲出，而且正在到來，希望大家充分擁抱這樣一個(gè)新時(shí)代。任何希望用傳統(tǒng)的資源去阻擋或者延遲新時(shí)代到來的人，都只可能成為舊時(shí)代的關(guān)門人和關(guān)燈者。

什么樣的好方法幫助大家盡快的進(jìn)入新時(shí)代？就是湛廬文化韓焱剛才講的——做一個(gè)學(xué)習(xí)者，看那些走在世界最前沿的科學(xué)家、創(chuàng)業(yè)者，他們的理念和思考。

我個(gè)人非常欣賞一句話，“勝利總是青睞有準(zhǔn)備的頭腦”。今天這個(gè)25分鐘的演講雖然不長(zhǎng)，但希望能幫各位為即將到來的新時(shí)代做更早、更好、更充分的準(zhǔn)備，從而成為新時(shí)代的勝利者！