日前，助推上海全球科創(chuàng)中心建設(shè)的品牌活動(dòng)——2019第四季漕河涇科創(chuàng)嘉年華成功舉行?；顒?dòng)中最引人矚目的演講者來自卡耐基梅隆大學(xué)計(jì)算機(jī)學(xué)院副院長(zhǎng)賈斯汀·卡塞爾教授，她對(duì)未來的暢想點(diǎn)燃了現(xiàn)場(chǎng)觀眾的情緒。

在演講結(jié)束后的獨(dú)家專訪中，面對(duì)人工智能安全性等一系列問題，被譽(yù)為“人工智能女王”的卡塞爾教授以對(duì)未來負(fù)責(zé)的態(tài)度，展現(xiàn)了前沿科學(xué)家的思考與擔(dān)當(dāng)。

還沒有找到教會(huì)人工智能常識(shí)的方法

解放周末：很高興專訪您。為了采訪您，我事先在翻譯軟件的幫助下準(zhǔn)備了一份提綱，這就是人工智能技術(shù)給我們?nèi)祟悗淼谋憷?。而且，就我的使用體驗(yàn)來說，翻譯軟件的翻譯質(zhì)量一直在提高。伴隨著5G的發(fā)展，包括自動(dòng)翻譯等在內(nèi)的人工智能技術(shù)是否會(huì)迎來重大的突破？

賈斯汀·卡塞爾：如你所說，從翻譯軟件到城市交通管理、環(huán)境污染治理、政府工作效率提升等，人工智能正在方方面面改變著我們的生活。雖然人工智能技術(shù)發(fā)展之路并非坦途，但幸運(yùn)的是，我們當(dāng)前所缺失的恰是5G所能提供給我們的，那就是網(wǎng)速和帶寬的大幅提升，這將大大提高業(yè)務(wù)效率和數(shù)據(jù)收集。5G為人工智能創(chuàng)造了快速發(fā)展的新環(huán)境，人工智能技術(shù)在很多領(lǐng)域的應(yīng)用將發(fā)生新的變化。

解放周末：會(huì)有哪些新變化？

賈斯汀·卡塞爾：比如機(jī)器學(xué)習(xí)，它是當(dāng)今人工智能領(lǐng)域應(yīng)用中最重要的工具。就像教孩子一樣，我們向機(jī)器展示一張貓的圖片，告訴它“這是一只貓”，然后再向它展示一張狗的圖片，告訴它“這不是一只貓”。上百萬遍的重復(fù)，機(jī)器就習(xí)得貓的共性并將其識(shí)別出。

學(xué)習(xí)效果好壞有賴于數(shù)據(jù)集，當(dāng)數(shù)據(jù)集太小或不好的時(shí)候，算法就會(huì)發(fā)生偏差。如果我們沒有輸入足夠多的貓的圖片，機(jī)器就無法正確識(shí)別貓。圖像識(shí)別相對(duì)簡(jiǎn)單，處理一個(gè)自然語言，需要整整5天。量子計(jì)算可能會(huì)在某一天為機(jī)器學(xué)習(xí)帶來更快的速度，但這需要5G這樣的高速通信技術(shù)作基礎(chǔ)。

機(jī)器學(xué)習(xí)能力提高是內(nèi)在的，對(duì)人們來說，可期待、可見的變化是，5G時(shí)代，人工智能所能帶來的各項(xiàng)前景，包括制造、無人駕駛、教育等，都將比以往任何時(shí)候獲得更快的發(fā)展。未來可能出現(xiàn)這樣的生活場(chǎng)景：你在購(gòu)物網(wǎng)站上剛下單，產(chǎn)品就在離你住處一公里處被3D打印機(jī)打印出來，迅速送到你手中；殘障人士可以與工程師、藝術(shù)家一起設(shè)計(jì)自己想要的假肢；教育可以更好地滿足不同學(xué)習(xí)能力的學(xué)生；越來越多的企業(yè)在不同城市或國(guó)家擁有員工，通過人工智能中樞來實(shí)現(xiàn)遠(yuǎn)程協(xié)作；快到幾乎沒有延遲的5G速度，有助于整座城市實(shí)現(xiàn)無人駕駛——當(dāng)然，前提是城市所有的交叉路口配有傳感器和自適應(yīng)的交通信號(hào)燈，智能基礎(chǔ)設(shè)施是發(fā)展無人駕駛技術(shù)的關(guān)鍵。

解放周末：是否可以說人工智能發(fā)展的障礙已被掃除？

賈斯汀·卡塞爾：遠(yuǎn)遠(yuǎn)沒到障礙被掃除的這一天，事實(shí)上正相反。人工智能雖然在一些領(lǐng)域比人類聰明很多，比如眾所周知的阿爾法狗，但在更多領(lǐng)域，人工智能的智商只相當(dāng)于兩三歲的孩子，我們還沒有找到教會(huì)人工智能常識(shí)的方法。比如此刻，如果我讓機(jī)器人把那邊裝著水的玻璃杯拿給我，它不是把水灑了，就是把杯子捏碎了。它非常有力，卻不懂得如何溫柔地用力。

不存在機(jī)器人統(tǒng)治地球的可能

解放周末：有力卻不懂得如何溫柔用力，這無法不讓人聯(lián)想起人工智能的安全問題。

賈斯汀·卡塞爾：很多人都在說機(jī)器人將統(tǒng)治地球，包括一些有影響力的人。但其中有些人可能只是喜歡因此而出現(xiàn)在新聞里；而另外有些人雖然在其他學(xué)術(shù)領(lǐng)域做出了超凡貢獻(xiàn)，但他本人并不是計(jì)算機(jī)科學(xué)家。計(jì)算機(jī)科學(xué)家們不認(rèn)為存在機(jī)器人統(tǒng)治地球的可能。

有個(gè)笑話說：如果有一天機(jī)器人造反，我們只需等待45分鐘，它們的電池就沒電了。

解放周末：但如果將來的機(jī)器人不裝電池，只需通過互聯(lián)網(wǎng)就能給自己充電了呢？

賈斯汀·卡塞爾：但它們不會(huì)知道自己沒電、需要充電了。哲學(xué)上有一個(gè)“缺陷意識(shí)”的概念，人無法知道自己不知道什么，機(jī)器人不知道自己需要充電，而電池是會(huì)沒電的。

在我看來，真正聰明的人工智能，不是下棋贏了人類冠軍，而是會(huì)在各種信息中建立起聯(lián)系，懂得推理，擁有常識(shí)。而目前的研究進(jìn)展離這一天還非常非常遠(yuǎn)。

解放周末：無論多遠(yuǎn)，我們依然需要弄清楚前行的方向，畢竟我們正身處一列高速前行的列車上。

賈斯汀·卡塞爾：我非常同意你的觀點(diǎn)，所以我在很多場(chǎng)合，包括今天的演講中也提到，5G帶來發(fā)展機(jī)遇的同時(shí)，安全問題依然隱藏其中。我曾經(jīng)說過，也會(huì)一直堅(jiān)持說，我不會(huì)接受任何我不信任的研發(fā)資金，不會(huì)開發(fā)不與人類合作的人工智能。

解放周末：但您不能保證其他人也不這么做。事實(shí)上，包括美國(guó)在內(nèi)，已經(jīng)有一些國(guó)家或機(jī)構(gòu)在悄悄研發(fā)戰(zhàn)爭(zhēng)機(jī)器人。

賈斯汀·卡塞爾：（拿起眼前的筆）這是一支筆，我可以用它來書寫真理，也可以戳傷你。人們害怕人工智能，是因?yàn)樗鼈兛梢宰兂蓺⑷说奈淦?。按此邏輯，我們身邊幾乎所有的東西都應(yīng)該被拿走，因?yàn)樗鼈冊(cè)趬娜耸掷锒伎梢宰兂晌淦鳌?/p>

重要的是教育。我們必須改善我們的教育體系，在孩子們還很小的時(shí)候就要教育他們成為善良的人。此外，在大學(xué)里，心理學(xué)專業(yè)教學(xué)生要尊重生命，哲學(xué)專業(yè)也教學(xué)生要尊重生命，可是，計(jì)算機(jī)專業(yè)不教。但是現(xiàn)在，我們已經(jīng)意識(shí)到了這點(diǎn)，計(jì)算機(jī)科學(xué)家和計(jì)算機(jī)專業(yè)的學(xué)生，都開始學(xué)習(xí)倫理學(xué)，學(xué)習(xí)尊重生命。這一點(diǎn)非常重要，需要我們時(shí)刻銘記在心。

解放周末：您怎么評(píng)價(jià)這種教育的效果？

賈斯汀·卡塞爾：重要的是持之以恒。我從2001年開始研究人工智能的倫理問題，當(dāng)時(shí)并沒有很多人關(guān)注，但現(xiàn)在，這已成為全社會(huì)一個(gè)普遍的觀念，這就是教育的結(jié)果。我會(huì)繼續(xù)不斷地教育我的學(xué)生，我的學(xué)生也會(huì)教育他們的學(xué)生。還有我的論文，人們可以從網(wǎng)上讀到我的論文。這樣的教育工作不是我一個(gè)人在做，其他許多計(jì)算機(jī)科學(xué)家都在做。

我們不能因?yàn)槲磥泶嬖谕鶋牡姆较虬l(fā)展的可能，就放棄往好的方向創(chuàng)造未來的努力。和那些害怕人工智能的未來、試圖阻止其發(fā)展的人不同，我會(huì)對(duì)未來負(fù)責(zé)。我可以，也要讓一個(gè)美好的未來發(fā)生，這是我作為科學(xué)研究者的責(zé)任。

對(duì)未來負(fù)責(zé)肯定要難于阻止未來，但我希望大家記?。喝斯ぶ悄艿奈磥碚莆赵谖覀兪种小Ｎ覀儧Q定怎么使用它，我們決定未來是光明的還是黑暗的。

如果找錯(cuò)問題，就不可能找對(duì)解決方法

解放周末：人工智能帶來的問題，還包括失業(yè)風(fēng)險(xiǎn)。隨著人工智能的發(fā)展，人類失去的工作崗位已經(jīng)不限于一些重復(fù)性或危險(xiǎn)的勞動(dòng)。

賈斯汀·卡塞爾：機(jī)器人真的會(huì)全面取代我們嗎？《經(jīng)濟(jì)學(xué)人》雜志的最新研究表明，一些重復(fù)的、不太需要很高技能的、無聊的工作正在消失；同時(shí)，一些新的工作崗位正在被創(chuàng)造出來。這些新崗位需要從業(yè)者具有人類特性的技巧，也就是與他人協(xié)作的能力、社交的能力。需要社交能力的崗位的增幅是最大的，聊天、喝咖啡這些人類特有的行為可以在伙伴間、團(tuán)隊(duì)中建立起良好的情感連接。

不要消極看待就業(yè)領(lǐng)域的變化。我們并非被迫選擇如此，實(shí)際上這是主動(dòng)選擇的結(jié)果。相比一天工作十多個(gè)小時(shí)和一天工作三五個(gè)、甚至兩三個(gè)小時(shí)，你會(huì)怎么選？我們需要做的是，當(dāng)我們把大部分工作交給機(jī)器人后，重新思考人類的定義、生活的意義。

解放周末：您曾在一次采訪中提到，讓機(jī)器人代替人類父母為寶寶換尿布，這樣父母可以有更多時(shí)間陪伴孩子，但親手換尿布難道不正是陪伴的一部分嗎？

賈斯汀·卡塞爾：不僅是小嬰兒，即便我們成年人，也需要身體的接觸，當(dāng)你擁抱著你的愛人時(shí)，你是在告訴他（她），你在這里，你愛他（她）。換尿布時(shí)父母可以撫摸孩子，孩子可以感受到父母的愛意。但現(xiàn)代社會(huì)往往需要父母在孩子還很小的時(shí)候就出去工作，當(dāng)他們和孩子相處時(shí)，是把時(shí)間花在給孩子換尿布上，還是把孩子抱在懷里輕輕搖他、親他，或者陪他玩呢？我不了解中國(guó)的情況，在美國(guó)，生完孩子兩周后，母親就需要回到工作中。

解放周末：未來人類會(huì)不會(huì)像電影《她》里那樣，愛上人工智能？事實(shí)上，今天的我們每天花在智能手機(jī)上的時(shí)間往往多于陪伴家人的時(shí)間。

賈斯汀·卡塞爾：我看過這部電影，非常喜歡，但我不認(rèn)為它如表面上的那樣，是在講述人類和人工智能的愛情故事。恰恰相反，它反映了現(xiàn)代人與人之間的隔閡。我待在中國(guó)的時(shí)間里，有時(shí)會(huì)騎車或坐地鐵，常?？吹杰噹铩ⅠR路上年輕人低著頭看手機(jī)，相互之間沒有眼神的交流。這非常糟糕。

問題不在人工智能，而在我們的選擇。如果找錯(cuò)問題，就不可能找對(duì)解決方法。

解放周末：您在人工智能領(lǐng)域最為人知曉的成就是主持研發(fā)了有社交意識(shí)的機(jī)器人助理SARA，您覺得這項(xiàng)研究的意義是什么？

賈斯汀·卡塞爾：SARA是第一個(gè)能與人類建立社交關(guān)系的機(jī)器人。在她之前，人工智能對(duì)人類來說是工具，但她是人類的伙伴。

我們一直在通過研究人類的智力行為來發(fā)展人工智能，卻沒有對(duì)人類的社會(huì)行為進(jìn)行研究。人類的社會(huì)行為非常復(fù)雜，包括表情、身體、聲音等。我想通過建造類人的方式去理解人類，這會(huì)是研究人工智能的一個(gè)很好的方向——如果我們先去研究真人，再去發(fā)展人工智能，就能更快更好地發(fā)展人工智能。

另外，隨著人類在電子設(shè)備上花費(fèi)越來越多的時(shí)間，科技需要回歸到古老但依舊重要的原則：以和人們建立關(guān)系的方式管理機(jī)器和人的長(zhǎng)期交互關(guān)系，并讓其不斷發(fā)展。

解放周末：SARA和人類的伙伴關(guān)系是如何建立起來的？

賈斯汀·卡塞爾：SARA能自動(dòng)理解人的感受，推導(dǎo)人際關(guān)系紐帶，且理解程度能不斷鞏固和加深。她會(huì)根據(jù)人的情緒做出相應(yīng)的反應(yīng)，用自己的行為對(duì)交互關(guān)系做出合理、適宜的回應(yīng)。

解放周末：如果人類隱藏真實(shí)的情緒呢？

賈斯汀·卡塞爾：人類其實(shí)并不善于說謊。比如笑，我們臉上會(huì)出現(xiàn)許多種不同的笑，但只有一種笑意味著我們是快樂的，其他笑容都不是真的。我把這種微笑叫作“獨(dú)生的微笑”。SARA捕捉的是和她面對(duì)面的那個(gè)人的情緒，因?yàn)閮蓚€(gè)人的關(guān)系是雙邊的，因而容易確認(rèn)。

解放周末：這樣的社交人工智能會(huì)不會(huì)減少人們對(duì)真實(shí)社交生活的需求？

賈斯汀·卡塞爾：我認(rèn)為恰恰相反，因?yàn)槿祟愱P(guān)注的是真實(shí)的人，而社交人工智能可以訓(xùn)練我們的心靈和其他人建立關(guān)系，也會(huì)提醒我們和其他人的協(xié)作多么重要，和世界上其他人互相依賴多么重要。比如社交人工智能可以幫助那些自閉癥患者與周圍建立聯(lián)系。

努力改變計(jì)算機(jī)科學(xué)的“男性”形象

解放周末：您知道自己被叫作“人工智能女王”嗎？在一個(gè)通常被認(rèn)為由男性主導(dǎo)的領(lǐng)域做“女王”的感覺如何？

賈斯汀·卡塞爾：（笑）我不太清楚人們?cè)趺唇形?，但我確實(shí)為女性在計(jì)算機(jī)領(lǐng)域所取得的成就感到自豪。目前，在全世界的計(jì)算機(jī)學(xué)院里，18歲到22歲的學(xué)生中有50%是女生。這太神奇了。

情況不是一開始就是這樣的。以前，通常父母更傾向于鼓勵(lì)男孩、而不是鼓勵(lì)女孩去學(xué)習(xí)計(jì)算機(jī)科學(xué)。那些10歲以前喜歡計(jì)算機(jī)、喜歡數(shù)學(xué)的女孩，長(zhǎng)到十一二歲的時(shí)候，相比自己的想法，她們變得更在意別人對(duì)自己的看法，希望自己討人喜歡、受人歡迎。這時(shí)，如果其他孩子或她們的父母對(duì)她們說，計(jì)算機(jī)科學(xué)是為男孩準(zhǔn)備的，你為什么要學(xué)？她們往往會(huì)選擇退出。

曾有女孩向我講述她的困惑。她說，朋友們都說她網(wǎng)球打得好，為什么不好好打網(wǎng)球，而去學(xué)計(jì)算機(jī)？她們不認(rèn)為她能成為一名計(jì)算機(jī)科學(xué)家。她說：“我喜歡網(wǎng)球隊(duì)的隊(duì)友們，也許她們是對(duì)的，我應(yīng)該退出計(jì)算機(jī)的學(xué)習(xí)。”我告訴她，你必須把她們的說法從你的腦子里“推”出去，你被接納在這里學(xué)習(xí)計(jì)算機(jī)科學(xué)，說明你很擅長(zhǎng)，而你在這里學(xué)習(xí)計(jì)算機(jī)科學(xué)這件事本身，就在改變計(jì)算機(jī)科學(xué)的“男性”形象，如果你退出了，計(jì)算機(jī)科學(xué)的“男性”形象就得不到改變。

解放周末：轉(zhuǎn)變是如何發(fā)生的？

賈斯汀·卡塞爾：為改善女性學(xué)習(xí)計(jì)算機(jī)科學(xué)的環(huán)境，我們做了很多工作。比如改變教授計(jì)算機(jī)科學(xué)的方法。以前幾乎每所教授計(jì)算機(jī)科學(xué)的大學(xué)，本科最初兩年都只教方程、算法、數(shù)學(xué)等，根本不涉及計(jì)算機(jī)。但我們了解到，很多女性對(duì)計(jì)算機(jī)科學(xué)感興趣是因?yàn)閷?duì)應(yīng)用程序好奇，通過應(yīng)用程序看到計(jì)算機(jī)能讓世界變得更美好。于是我們就從應(yīng)用程序教起，事實(shí)證明，這樣的教法讓計(jì)算機(jī)科學(xué)更有吸引力。

如果計(jì)算機(jī)領(lǐng)域只有年輕男性參與，那么，創(chuàng)新產(chǎn)品可能只考慮了年輕男性的需求。創(chuàng)新成果要有多樣性，需要參與者也是多樣的：要有青年人，也要有年紀(jì)大的人；要有男人，也要有女人；要有各種膚色、來自各種文化的人。

解放周末：回到30年前，當(dāng)您還是達(dá)特茅斯學(xué)院一名學(xué)習(xí)比較文學(xué)的本科生時(shí)，女性進(jìn)入計(jì)算機(jī)領(lǐng)域的機(jī)會(huì)更少，您是怎么改變專業(yè)的？

賈斯汀·卡塞爾：其實(shí)我的興趣沒有變過，我喜歡“講故事”。我年輕時(shí)，以為“講故事”就是文學(xué)，碰巧我又喜歡文學(xué)、喜歡閱讀，所以就選擇了比較文學(xué)專業(yè)。但是，我不僅想研究名作家，更想了解普通人的故事。但老師說：不行，你要讀名著，普通人的故事很無聊，沒有價(jià)值。我的本科論文寫的是著名作家塞繆爾·貝克特的英文文本和法文文本的對(duì)比分析。老師說，這很有趣，但這不是比較文學(xué)。于是我轉(zhuǎn)而去英國(guó)讀語言學(xué)碩士，研究蘇格蘭孩子講故事時(shí)的身體語言。英國(guó)老師說，這很有趣，但這不是語言學(xué)。我和他爭(zhēng)論什么是語言學(xué)，但最終我回到美國(guó)，攻讀心理學(xué)博士，研究人類行為。

30歲時(shí)我成為一名年輕的教授，我發(fā)現(xiàn)計(jì)算機(jī)是我分析語言的非常好用的工具，它可以把人們的語言“切”成一片一片。一年后，校長(zhǎng)說，你的精力太分散了，你要選定一個(gè)領(lǐng)域，不然工作滿7年后就不續(xù)聘。這時(shí)正好有朋友邀請(qǐng)我去旁聽他們的計(jì)算機(jī)課，我就去了，那一年的學(xué)習(xí)讓我對(duì)計(jì)算機(jī)本身產(chǎn)生了興趣，因?yàn)槲艺业搅艘环N我喜歡的做事情的方法——建造東西、講故事、研究聲音。后來，我收到了來自美國(guó)最好的大學(xué)之一的麻省理工學(xué)院的邀請(qǐng)，我欣然接受，去“考驗(yàn)”計(jì)算機(jī)是否就是我的“真愛”。

這是一個(gè)很長(zhǎng)的故事，直到35歲，我才選擇留在計(jì)算機(jī)領(lǐng)域。但我決定要給這個(gè)領(lǐng)域帶去一些不同以往的東西，把我在比較文學(xué)、語言學(xué)、人類行為學(xué)等方面學(xué)到的知識(shí)融入其中。我喜歡改變。

解放周末：走過的路雖然長(zhǎng)，但也許正是這種跨學(xué)科背景，成就了您在機(jī)器語言、人機(jī)交互等方面的創(chuàng)新貢獻(xiàn)。

賈斯汀·卡塞爾：我想是的，跨學(xué)科對(duì)創(chuàng)新特別重要。

解放周末：在計(jì)算機(jī)專家的身份之外，您還是卡耐基梅隆大學(xué)計(jì)算機(jī)學(xué)院的副院長(zhǎng)，作為一位教育者，您是如何教學(xué)生的？因?yàn)槿斯ぶ悄茴I(lǐng)域的知識(shí)更新非常迅速，很可能您今天在課堂上教他們的東西，明天就被淘汰了。

賈斯汀·卡塞爾：我盡力教學(xué)生一些永遠(yuǎn)不會(huì)過時(shí)的東西，而不是教他們編程。我教他們?nèi)绾卫斫馊祟惖男袨椤绾窝芯克?、分析它，以及如何將研究、分析的成果作為人工智能系統(tǒng)的基礎(chǔ)而加以應(yīng)用。這種思考問題的方式，使他們區(qū)別于其他一般的計(jì)算機(jī)軟件開發(fā)者，他們懂得任何人工智能系統(tǒng)都必須以人為本，為人所用，與人互動(dòng)。

解放周末：最后，就上海建設(shè)全球科創(chuàng)中心，您有什么建議？

賈斯汀·卡塞爾：四條建議。首先是公平競(jìng)爭(zhēng)，當(dāng)很多企業(yè)試圖解決同一個(gè)問題的時(shí)候，他們會(huì)激烈競(jìng)爭(zhēng)，從而推進(jìn)創(chuàng)新發(fā)展的速度；其次是鼓勵(lì)合作，一個(gè)人需要多元知識(shí)結(jié)構(gòu)，一個(gè)團(tuán)隊(duì)更需要不同學(xué)科背景的成員；第三是強(qiáng)化多樣性，很多科學(xué)研究已經(jīng)表明，創(chuàng)新者的多樣性越豐富，創(chuàng)新成果的多樣性就越豐富；最后是保持開放性，硅谷很棒，但硅谷的創(chuàng)新活力正在向其他城市轉(zhuǎn)移，因?yàn)楣韫瓤偸钦J(rèn)為自己是最聰明的，開始不與硅谷之外的世界交流。上海要保持和世界的連接，上海會(huì)更厲害。