編者按：第三屆世界頂尖科學家論壇將于10月30日-11月1日在上海舉行。包括61位諾貝爾獎得主在內(nèi)，近140位諾貝爾獎、圖靈獎、菲爾茲獎、沃爾夫獎、拉斯克獎等全球頂尖科學獎項得主出席。論壇期間將有130余場科學家獨立演講、70余場主題峰會，大部分活動將通過網(wǎng)絡向公眾直播。

在往屆的頂尖科學家論壇上，人工智能一直是這些科學家樂于討論的話題。面對越來越強大的人工智能技術(shù)，未來的人類該如何與之相處？數(shù)據(jù)隱私和數(shù)據(jù)安全、算法黑箱、技術(shù)濫用……落地發(fā)展至今，人工智能已經(jīng)顯露出許多亟需關(guān)切的監(jiān)管問題。

澎湃新聞特此整理了世界頂尖科學家論壇往屆參與者關(guān)于上述問題的討論，希望可以幫助讀者對于人工智能有更清晰的認識。

古往今來，技術(shù)與人類的互動關(guān)系一直是人們苦苦思考的問題。面對越來越強大的人工智能技術(shù)，未來的人類該如何與之相處？

數(shù)據(jù)隱私和數(shù)據(jù)安全、算法黑箱、技術(shù)濫用……落地發(fā)展至今，人工智能已經(jīng)顯露出許多亟需關(guān)切的監(jiān)管問題。在全球各地“AI熱”的同時，需要一點技術(shù)應用的“冷思考”。

在第二屆世界頂尖科學家論壇中，許多科學家提出了對人工智能監(jiān)管問題的關(guān)切。

日本諾貝爾化學獎得主野依良治擔心AI武器化。他說，至少現(xiàn)在我們不需要對人工智能恐懼，但預測未來是很困難的?！拔磥砣绻浅壷悄?，并用在其他領域，比如武器領域，也許情況就不是這樣了。所以我覺得人類必須要掌握使用人工智能的主動權(quán)。”

2017年諾貝爾物理學獎得主巴里巴里什提出人工智能帶來的數(shù)據(jù)安全問題。利用大數(shù)據(jù)分析，AI能幫助人類更好的提出科學發(fā)現(xiàn)，但AI也帶來數(shù)據(jù)安全問題。巴里什對于科學研究中的數(shù)據(jù)完整性表示擔憂，因為在探測到引力波的過程中，巴里什就遇到這樣的情況。

“當我們第一次探測到引力波時，我們第一個想到的問題是如何證明和測試它是真的，這是做科學研究必須要想的。但緊接著我們又想到了第二問題，我們?nèi)绾巫C明探測到的引力波不是別人入侵后，植入的數(shù)據(jù)？好在，我們的系統(tǒng)能夠追溯信號來源，才解決了這個擔憂?！卑屠锸舱f。

2007年圖靈獎得主約瑟夫斯發(fā)基斯則擔心AI算法的黑箱問題。算法黑箱問題是指，科學家能夠獲知人工智能算法最終得出的結(jié)果，但并不清楚該結(jié)果產(chǎn)生的原因?！拔覀冋幵诖笮偷母锩_端，機器在很多時候被認為可以替代人類了。但為了能夠應對自主系統(tǒng)的挑戰(zhàn)，我們需要進一步研究，在不嘗試理解這些機器如何做出決策的情況下，不應該接受這樣的技術(shù)在大量場景下使用?！彼拱l(fā)基斯說。

他們談到的問題，有的已經(jīng)超出了科學的范疇，需要各國政府出臺相應的政策法規(guī)加以監(jiān)管。世界各國正在展開這樣的嘗試。

歐盟：發(fā)展可信賴人工智能

人工智能可以幫助醫(yī)生做出更快、更準確的診斷，幫助農(nóng)民減少使用農(nóng)藥，幫助人們應對氣候變化，它還有助于減少交通事故的數(shù)量……人工智能正在幫助我們解決許多社會難題，但與之相伴而來的是人工智能所引發(fā)的安全擔憂。

關(guān)注人工智能帶來的安全、隱私、尊嚴等方面的風險正是歐盟人工智能戰(zhàn)略和政策的側(cè)重點。

2018年3月，有歐盟智庫之稱的歐洲政治戰(zhàn)略中心（European Political Strategy Centre）發(fā)布題為《人工智能時代：確立以人為本的歐洲戰(zhàn)略》（The Age of Artificial Intelligence： Towards a European Strategy for Human-Centric Machines）的報告。

報告建議歐盟鼓勵發(fā)展人工智能，并努力建立起人與機器的共生關(guān)系。它還建議歐盟確立以人為本的戰(zhàn)略，把政策目標設定為使人們感到被人工智能賦能，而非被其威脅。

在此建議下，2018年4月25日，歐盟委員會發(fā)布的一份政策文件《歐盟人工智能》（Artificial Intelligence for Europe）提出了人工智能的歐盟道路。向來有著人權(quán)傳統(tǒng)的歐盟決定著重探討人工智能的價值觀。

歐盟認為，人工智能的發(fā)展可能會引發(fā)新的倫理和法律問題，歐盟必須確保人工智能在適宜的框架內(nèi)發(fā)展。這個框架應既促進科技創(chuàng)新，又能尊重歐盟的價值觀、基本權(quán)利和道德原則。在歐洲價值觀的基礎上，歐盟委員會提出了一種三管齊下的方法：增加公共和私人投資，為人工智能帶來的社會經(jīng)濟變革做好準備，并建立起適當?shù)牡赖潞头煽蚣堋?/p>

2019年4月8日，歐盟委員會發(fā)布一份人工智能道德準則，該準則由2018年12月公布的人工智能道德準則草案演變而來，提出了實現(xiàn)可信賴人工智能的七個要素，要求不得使用公民個人資料做出傷害或歧視他們的行為。

這份人工智能道德準則提出了實現(xiàn)可信賴人工智能的七個要素，分別是：

1.人的能動性和監(jiān)督：人工智能系統(tǒng)應通過支持人的能動性和基本權(quán)利以實現(xiàn)公平社會，而不是減少、限制或錯誤地指導人類自治。

2.穩(wěn)健性和安全性：值得信賴的人工智能要求算法足夠安全、可靠和穩(wěn)健，以處理人工智能系統(tǒng)所有生命周期階段的錯誤或不一致。

3.隱私和數(shù)據(jù)管理：公民應該完全控制自己的數(shù)據(jù)，同時與之相關(guān)的數(shù)據(jù)不會被用來傷害或歧視他們。

4.透明度：應確保人工智能系統(tǒng)的可追溯性。

5.多樣性、非歧視性和公平性：人工智能系統(tǒng)應考慮人類能力、技能和要求的總體范圍，并確?？山咏?。

6.社會和環(huán)境福祉：應采用人工智能系統(tǒng)來促進積極的社會變革，增強可持續(xù)性和生態(tài)責任。

7.問責：應建立機制，確保對人工智能系統(tǒng)及其成果負責和問責。

英國：把倫理道德放在核心位置

英國政府也關(guān)注到人工智能的倫理問題，希望引領世界安全、合乎道德地使用數(shù)據(jù)和人工智能。

英國政府報告《人工智能：未來決策制定的機遇和影響》（Artificial intelligence： opportunities and implications for the future of decision making）中詳細地討論了有關(guān)倫理的問題。這些問題包括：人工智能是什么？它是如何被利用的？它能給生產(chǎn)力帶來什么好處？以及我們?nèi)绾巫詈玫毓芾砥涫褂弥锌赡軙l(fā)生的倫理和法律風險？

2018年4月16日，英國議會一個特別委員會發(fā)布報告說，在發(fā)展和應用人工智能過程中，有必要把倫理道德放在核心位置，以確保這項技術(shù)更好地造福人類。

這份報告提出，應確立一個適用于不同領域的“人工智能準則”，其中主要包括５個方面：人工智能應為人類共同利益服務；人工智能應遵循可理解性和公平性原則；人工智能不應用于削弱個人、家庭乃至社區(qū)的數(shù)據(jù)權(quán)利或隱私；所有公民都應有權(quán)利接受相關(guān)教育，以便能在精神、情感和經(jīng)濟上適應人工智能發(fā)展；人工智能絕不應被賦予任何傷害、毀滅或欺騙人類的自主能力。

美國：保護公民自由、隱私和美國價值觀

美國較早開始關(guān)注人工智能驅(qū)動的自動化將對就業(yè)、經(jīng)濟和社會帶來的影響，試圖通過政策制定來應對相應挑戰(zhàn)，并確保人工智能的發(fā)展能釋放企業(yè)和工人的創(chuàng)造潛力。

2016年10月，美國前總統(tǒng)奧巴馬發(fā)布了《國家人工智能研究和發(fā)展戰(zhàn)略計劃》，并稱其為新的“阿波羅登月計劃”。這是全球首份國家層面的AI戰(zhàn)略計劃。奧巴馬提到專用的人工智能已經(jīng)在醫(yī)藥、交通、輸配電等各個領域提高了經(jīng)濟運行的效率。但人工智能也可能存在不利的方面，比如減少就業(yè)機會、影響工資水平和社會平等。政府需要對此進行研究。

2019年2月11日，美國總統(tǒng)特朗普簽署了一項名為“維護美國人工智能領導地位”的行政命令，正式啟動美國人工智能計劃。同日，白宮發(fā)文稱，美國聯(lián)邦政府將集中資源發(fā)展人工智能，以“確保美國在人工智能方面的優(yōu)勢”。

特朗普當時簽署的行政命令稱，美國是人工智能研發(fā)和部署的全球領導者，美國政府將協(xié)調(diào)聯(lián)邦政府戰(zhàn)略和美國人工智能計劃，以五項原則為指導，維持和加強美國在人工智能研發(fā)和部署方面的科學、技術(shù)和經(jīng)濟領導地位。

其中，第二項原則提到，美國必須推動制定適當?shù)募夹g(shù)標準，減少對人工智能技術(shù)進行安全測試和部署的障礙，以便創(chuàng)造新的人工智能相關(guān)產(chǎn)業(yè)，并使當前的產(chǎn)業(yè)應用人工智能技術(shù)。

第四項原則提到，美國必須培養(yǎng)公眾對人工智能技術(shù)的信任和信心，并在應用人工智能技術(shù)時保護公民自由、隱私和美國價值觀，為美國人民充分發(fā)揮人工智能技術(shù)的潛力。

中國：發(fā)展負責任的人工智能

中國對人工智能技術(shù)的治理問題亦頗為重視。2019年2月，中國科技部牽頭組建了中國國家新一代人工智能治理專業(yè)委員會，6月該委員會發(fā)布新一代人工智能治理原則發(fā)展負責任的人工智能》（以下簡稱《治理原則》），強調(diào)發(fā)展負責任的人工智能。工信部在2017年頒布的《促進新一代人工智能產(chǎn)業(yè)健康發(fā)展三年行動計劃（2018-2020）》也對治理提出要求。

《治理原則》提到，近年來，人工智能迅速發(fā)展，正在深刻改變?nèi)祟惿鐣睢⒏淖兪澜?。為促進新一代人工智能健康發(fā)展，加強人工智能法律、倫理、社會問題研究，積極推動人工智能全球治理，新一代人工智能發(fā)展規(guī)劃推進辦公室成立了國家新一代人工智能治理專業(yè)委員會。

《治理原則》突出了發(fā)展負責任的人工智能這一主題，強調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八條原則。

其中，“公平公正”原則要求人工智能發(fā)展應促進公平公正，保障利益相關(guān)者的權(quán)益，促進機會均等。通過持續(xù)提高技術(shù)水平、改善管理方式，在數(shù)據(jù)獲娶算法設計、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應用過程中消除偏見和歧視。

“尊重隱私”原則要求人工智能發(fā)展應尊重和保護個人隱私，充分保障個人的知情權(quán)和選擇權(quán)。在個人信息的收集、存儲、處理、使用等各環(huán)節(jié)應設置邊界，建立規(guī)范。完善個人數(shù)據(jù)授權(quán)撤銷機制，反對任何竊娶篡改、泄露和其他非法收集利用個人信息的行為。

“安全可控”原則要求人工智能系統(tǒng)應不斷提升透明性、可解釋性、可靠性、可控性，逐步實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴。高度關(guān)注人工智能系統(tǒng)的安全，提高人工智能魯棒性及抗干擾性，形成人工智能安全評估和管控能力。

“共擔責任”原則要求人工智能研發(fā)者、使用者及其他相關(guān)方應具有高度的社會責任感和自律意識，嚴格遵守法律法規(guī)、倫理道德和標準規(guī)范。建立人工智能問責機制，明確研發(fā)者、使用者和受用者等的責任。人工智能應用過程中應確保人類知情權(quán)，告知可能產(chǎn)生的風險和影響。防范利用人工智能進行非法活動。
責任編輯：YYX