人工智能目前存在哪些技術(shù)瓶頸？未來是否可能對人類帶來威脅？今天下午舉行的2020浦江創(chuàng)新論壇全體大會上，圖靈獎獲得者、中國科學(xué)院院士姚期智做了題為《人工智能面對的一些挑戰(zhàn)》的演講。在他看來，人工智能有三大技術(shù)瓶頸亟待突破，需要科學(xué)家“從0到1”的原創(chuàng)研究。

作為現(xiàn)代密碼學(xué)的奠基人，姚期智創(chuàng)立的上海期智研究院今年初在滬成立。目前，這家新型研發(fā)機構(gòu)已匯聚4位兩院院士、20多位科學(xué)家和多所高校的青年人才。上海期智研究院依托清華大學(xué)和復(fù)旦大學(xué)、上海交通大學(xué)、同濟大學(xué)等滬上高校和科研機構(gòu)，瞄準(zhǔn)人工智能、現(xiàn)代密碼學(xué)、高性能計算系統(tǒng)、量子計算及量子人工智能、物理器件與計算、生物智能等6個方向開展前沿研究，旨在打造中國人工智能“夢之隊”，推動以人工智能為主導(dǎo)的交叉學(xué)科發(fā)展。

在姚期智看來，脆弱性是人工智能面臨的第一大技術(shù)瓶頸。人眼識別十分穩(wěn)定，一個圖像如有微小改變，人仍能一眼看出它是什么。然而，人工智能在圖像識別方面有點“人工智障”，比如將一只小豬的照片加入一些圖像“雜音”，一些機器視覺系統(tǒng)居然會把它識別為飛機?！靶∝i變飛機”這種漏洞會給人工智能應(yīng)用帶來安全隱患，比如黑客可以攻擊汽車自動駕駛系統(tǒng)，誘導(dǎo)它將馬路上的“停止”標(biāo)識當(dāng)作“通行”，從而引發(fā)交通事故。

第二大技術(shù)瓶頸是機器學(xué)習(xí)算法缺乏可解釋性，很多算法處于“黑盒子”狀態(tài)。例如一個科研團隊開發(fā)了一個房地產(chǎn)估價系統(tǒng)，這個系統(tǒng)通過一套算法學(xué)習(xí)了有關(guān)各地房地產(chǎn)價格的大數(shù)據(jù)，從而能自動評估房地產(chǎn)價格。然而，這套算法像黑盒子一樣，很難給出估價的完整依據(jù)。這在商業(yè)應(yīng)用上是一塊很大的短板，房地產(chǎn)商會懷疑：人工智能系統(tǒng)是否低估了價格？是不是有利益相關(guān)方對系統(tǒng)做了手腳，故意壓價？因此，算法的可解釋性問題亟待科研突破，否則會大幅限制人工智能的商業(yè)應(yīng)用進程。

第三大技術(shù)瓶頸是人工智能的對抗性較弱。如今，一個無人機群可以輕松完成燈光秀、農(nóng)林作業(yè)等任務(wù)，但要看到，這些任務(wù)都是在自然環(huán)境下完成的，如果是處于高對抗的人為環(huán)境中呢？比如在電子競技和軍事戰(zhàn)斗中，無人機群的協(xié)同作戰(zhàn)能力就會受到很大考驗，要在對抗中勝出，需要計算機科學(xué)、數(shù)學(xué)等領(lǐng)域的科學(xué)家進行深入的強化學(xué)習(xí)、博弈論研究，讓無人機群能夠在高對抗環(huán)境中自主找到最優(yōu)策略?！斑@是一個很重要的科研方向，需要從到1的突破?！币ζ谥钦f。

隨著人工智能技術(shù)的快速發(fā)展，未來是否會產(chǎn)生“超級人工智能”，進而對人類產(chǎn)生威脅？姚期智引用了人工智能先驅(qū)約翰麥卡錫1977年對這個問題的回答：“我們需要概念上的突破，需要1.7個愛因斯坦和0.3個曼哈頓項目，可能需要5年至500年時間。”這句話意味著，“超級人工智能”是否會產(chǎn)生、何時產(chǎn)生，存在很大的不確定性。

為應(yīng)對這種潛在的威脅，姚期智給出了制約智能機器的三個原則：一是利他，即人的利益應(yīng)凌駕于機器利益；二是謙卑，即機器不能自以為是；三是盡心，即機器能學(xué)懂人的偏好?！懊總€原則都要用嚴(yán)格的算法來實現(xiàn)，并貫穿于設(shè)計之中，這樣就能有效駕馭人工智能?！?br /> 責(zé)任編輯：YYX