蒙克全球事務(wù)學(xué)院：人工智能與社會(huì)面臨的選擇、風(fēng)險(xiǎn)和機(jī)遇

自兩會(huì)開(kāi)始以來(lái)，李彥宏、楊元慶、鄧中翰等企業(yè)家、科學(xué)家代表提交了不少與人工智能相關(guān)的提案，人工智能成為政府、各產(chǎn)業(yè)、學(xué)界等人士的關(guān)注重點(diǎn)。此前，加拿大-英國(guó)學(xué)術(shù)討論會(huì)（CUKC）于多倫多大學(xué)蒙克全球事務(wù)與公共政策學(xué)院舉行，并發(fā)布報(bào)告《人工智能與社會(huì)面臨的選擇、風(fēng)險(xiǎn)和機(jī)遇》，探討的關(guān)鍵議題包括深度學(xué)習(xí)的開(kāi)發(fā)和應(yīng)用，大數(shù)據(jù)和隱私的影響以及AI在網(wǎng)絡(luò)防御、安全等領(lǐng)域的應(yīng)用，并特別關(guān)注了AI對(duì)勞動(dòng)力市場(chǎng)和社會(huì)不平等的影響，以及AI的倫理問(wèn)題。

一、加拿大和英國(guó)的AI生態(tài)體系

加拿大政府專(zhuān)注于四大目標(biāo)：在基礎(chǔ)技術(shù)方面持續(xù)投入；建立戰(zhàn)略性創(chuàng)新基金以吸引商業(yè)投資；通過(guò)建立AI道德規(guī)范和市場(chǎng)框架，培養(yǎng)公眾的興趣和信心；依托G7和G20開(kāi)展國(guó)際合作。2017年，加拿大政府宣布將由加拿大高級(jí)研究院（CIFAR）實(shí)施一項(xiàng)價(jià)值125億美元的泛加拿大人工智能戰(zhàn)略。

加拿大2018年AI生態(tài)系統(tǒng)

英國(guó)人工智能生態(tài)系統(tǒng)有六大實(shí)力基礎(chǔ)，包括具有領(lǐng)先水平的研究基礎(chǔ)；成熟的人才渠道對(duì)人才的培養(yǎng)和供給；大量的風(fēng)險(xiǎn)資本投資支持AI創(chuàng)業(yè)公司；公共機(jī)構(gòu)致力于人工智能創(chuàng)新；當(dāng)?shù)赜脩舨杉{新技術(shù)的興趣和意愿；針對(duì)新興技術(shù)的監(jiān)管方法。

二、向善的人工智能——倫理、政策和治理

加拿大政府正在調(diào)查人工智能等新興技術(shù)對(duì)外交政策和全球態(tài)勢(shì)的影響。人工智能和自動(dòng)化或可反映并加劇社會(huì)分裂、人權(quán)問(wèn)題等社會(huì)問(wèn)題。

數(shù)據(jù)所有權(quán)和隱私問(wèn)題也不容忽視。數(shù)據(jù)作為一種經(jīng)濟(jì)商品，其重要性日益增加，更易成為國(guó)內(nèi)外攻擊者目標(biāo)。鑒于私營(yíng)部門(mén)在該領(lǐng)域的影響力，政府需要與大型科技公司合作。

從地緣政治的角度來(lái)看，人工智能正在重塑全球權(quán)力結(jié)構(gòu)。各國(guó)競(jìng)相主導(dǎo)人工智能的研究、商業(yè)化、以及規(guī)范標(biāo)準(zhǔn)的制定。

就業(yè)前景的劇烈變化是進(jìn)一步采用人工智能和自動(dòng)化的預(yù)期結(jié)果。

政策制定者可以從互聯(lián)網(wǎng)的發(fā)展中汲取教訓(xùn)。到2018年底，全球僅一半人口可以上網(wǎng)。由于人工智能和互聯(lián)網(wǎng)高度集成，因此全球?qū)θ斯ぶ悄艿脑L問(wèn)也存在不均衡。

互聯(lián)網(wǎng)用戶數(shù)據(jù)的增長(zhǎng)

多樣性欠缺，這可能將社會(huì)偏見(jiàn)轉(zhuǎn)化為算法偏見(jiàn)。特別值得注意的是計(jì)算機(jī)科學(xué)和人工智能中的女性比例極低。

三、人工智能的法律含義——法規(guī)、隱私和道德問(wèn)題

在透明度方面，要求相關(guān)方提供關(guān)于自動(dòng)決策內(nèi)在邏輯且具有意義的信息。但鑒于不透明度問(wèn)題，可能難以遵守這一要求：人工智能算法具有內(nèi)在“黑匣子”性質(zhì)；公眾對(duì)算法的不理解；企業(yè)有意識(shí)地保護(hù)商業(yè)秘密和知識(shí)產(chǎn)權(quán)。

在公平方面，歧視關(guān)乎差異化，但并不總是消極的。在培訓(xùn)數(shù)據(jù)集中，很有可能存在中立歧視和法律歧視。但是，編輯數(shù)據(jù)、刪除人員的受保護(hù)特征可能會(huì)破壞數(shù)據(jù)集的潛在好處。數(shù)據(jù)最小化可能與機(jī)器學(xué)習(xí)算法的目標(biāo)和方法相沖突。

人們認(rèn)為機(jī)器人是危險(xiǎn)的，而人類(lèi)是客觀、公平、不偏不倚的。法規(guī)通常旨在保護(hù)人類(lèi)免受機(jī)器傷害。但事實(shí)上，人類(lèi)不僅表現(xiàn)出偏見(jiàn)，而且這種偏見(jiàn)常常是無(wú)意識(shí)的。機(jī)器學(xué)習(xí)技術(shù)可以識(shí)別我們無(wú)意識(shí)的偏見(jiàn)，并為我們提供改進(jìn)決策方式的機(jī)會(huì)。

如何平衡基于原則的方法和基于規(guī)則的方法。在事后回顧情況下，基于原則的方法可以很好地識(shí)別個(gè)體行為者，并提前評(píng)估和管理風(fēng)險(xiǎn)。但這在復(fù)雜的網(wǎng)絡(luò)化生態(tài)系統(tǒng)（例如自動(dòng)駕駛車(chē)輛）中可能并不可行，許多參與者可以預(yù)先自動(dòng)實(shí)施詳細(xì)規(guī)則。

人們對(duì)法律程序中使用電子證據(jù)存在擔(dān)憂。當(dāng)軟件可能包含錯(cuò)誤，當(dāng)任何單一結(jié)果都依賴于廣泛分布的設(shè)備上的軟件代碼，或者無(wú)人能夠在法庭上對(duì)AI決策進(jìn)行解釋?zhuān)瑔?wèn)題變得更加嚴(yán)峻。因此，如果無(wú)法在法定程序中測(cè)試計(jì)算機(jī)的可靠性，那么就應(yīng)當(dāng)反對(duì)其具有可靠性的預(yù)先假設(shè)。

四、大數(shù)據(jù)與隱私保護(hù)

在認(rèn)識(shí)到大數(shù)據(jù)和機(jī)器學(xué)習(xí)帶來(lái)風(fēng)險(xiǎn)的同時(shí)，也不應(yīng)忽視其為日常生活帶來(lái)的好處。開(kāi)源數(shù)據(jù)研究所（Open Data Institute）與企業(yè)和政府合作，建立了一個(gè)開(kāi)放、可信的數(shù)據(jù)生態(tài)系統(tǒng)。社會(huì)必須投入高質(zhì)量、標(biāo)準(zhǔn)化的數(shù)據(jù)，使其對(duì)創(chuàng)新和決策而言是可靠、有用的。

公開(kāi)購(gòu)買(mǎi)和同意原則至關(guān)重要。應(yīng)當(dāng)使用清晰、通俗的語(yǔ)言討論數(shù)據(jù)所有權(quán)和數(shù)據(jù)訪問(wèn)。開(kāi)源數(shù)據(jù)研究所提出一個(gè)簡(jiǎn)單的分類(lèi)系統(tǒng)，如圖所示，數(shù)據(jù)在圖中所處的頻譜位置決定其獲得何種許可。

數(shù)據(jù)頻譜

五、人工智能與勞動(dòng)力——自動(dòng)化、就業(yè)和效率

英國(guó)政府試圖對(duì)人工智能應(yīng)用進(jìn)行管理，促進(jìn)一個(gè)人工智能驅(qū)動(dòng)的未來(lái)。例如，在能源、醫(yī)療、食品、農(nóng)業(yè)領(lǐng)域的人工智能能夠驅(qū)動(dòng)25%的生產(chǎn)率。人工智能應(yīng)用領(lǐng)先的國(guó)家可能成為21世紀(jì)的經(jīng)濟(jì)主導(dǎo)者。因此，英國(guó)需要考慮采取相關(guān)措施，包括：建立人工智能辦公室、建立數(shù)據(jù)倫理與創(chuàng)新中心、建立人工智能委員會(huì)。這些機(jī)構(gòu)將給政府提供專(zhuān)業(yè)人士，發(fā)現(xiàn)機(jī)遇和挑戰(zhàn)，并且提出政策和監(jiān)管建議。