人工智能研究機(jī)構(gòu)AI Now近期發(fā)布其《2023年度景觀報(bào)告：對(duì)抗科技力量》（2023 Landscape: Confronting Tech Power）。報(bào)告認(rèn)為，由于具備數(shù)據(jù)、計(jì)算能力和地緣政治優(yōu)勢(shì)，科技行業(yè)的權(quán)力集中成為人工智能政策面臨的一大緊迫挑戰(zhàn)。為此，圍繞ChatGPT、算法問(wèn)責(zé)制、生物識(shí)別監(jiān)控、反壟斷等關(guān)鍵要素，AI Now提出了一系列可行的破解之策。

沒(méi)有大科技就沒(méi)有人工智能。

在過(guò)去的幾十年里，少數(shù)私人參與者積累了與國(guó)家相抗衡的權(quán)力和資源，同時(shí)開(kāi)發(fā)和宣傳人工智能，將其融入關(guān)鍵社會(huì)基礎(chǔ)設(shè)施的建設(shè)當(dāng)中。如今，人工智能遍及求職、醫(yī)療、教育、商品流通、交通秩序等各行各業(yè)，越來(lái)越頻繁地影響著社會(huì)的發(fā)展軌跡。

與此同時(shí)，令人擔(dān)憂的問(wèn)題開(kāi)始浮出水面：例如技術(shù)并不全都依照規(guī)定方式運(yùn)轉(zhuǎn)，且可能生成高錯(cuò)誤率或歧視性的結(jié)果。人工智能的不透明性問(wèn)題意味著我們可能無(wú)法完全了解和掌控這項(xiàng)技術(shù)。

究其原因，人工智能的核心屬性說(shuō)明了問(wèn)題：它從根本上依賴于僅由少數(shù)大型科技公司擁有和控制的資源。

三個(gè)關(guān)鍵維度

大型科技公司在人工智能領(lǐng)域的主導(dǎo)地位體現(xiàn)在三個(gè)關(guān)鍵維度：

1、數(shù)據(jù)優(yōu)勢(shì)：那些能夠獲得最廣泛、最深入行為數(shù)據(jù)的公司，在開(kāi)發(fā)消費(fèi)級(jí)人工智能產(chǎn)品方面占據(jù)主導(dǎo)。這反映在科技公司通過(guò)收購(gòu)、合并擴(kuò)大這種數(shù)據(jù)優(yōu)勢(shì)?？萍脊疽呀?jīng)積累了巨大的經(jīng)濟(jì)實(shí)力，這使它們能夠?qū)⒆约鹤鳛楹诵幕A(chǔ)設(shè)施嵌入健康、消費(fèi)品、教育、信貸等許多行業(yè)。

2、計(jì)算能力優(yōu)勢(shì)：人工智能從根本上說(shuō)是一個(gè)數(shù)據(jù)驅(qū)動(dòng)的行業(yè)，嚴(yán)重依賴用于訓(xùn)練、調(diào)整和部署模型的計(jì)算能力。算力的高昂造價(jià)和芯片材料的依賴性意味著人工智能需要具備規(guī)模效率和高技能技術(shù)工人等條件，而只有少數(shù)公司才能真正構(gòu)建起人工智能系統(tǒng)的基礎(chǔ)云和計(jì)算資源。這意味著盡管“AI初創(chuàng)公司”比比皆是，但它們只能成為大型科技公司“船體上的藤壺”——因?yàn)榇笮涂萍脊緯?huì)利用其對(duì)必要資源的控制來(lái)遏制中小企業(yè)發(fā)展。

3、地緣政治優(yōu)勢(shì)：當(dāng)前，人工智能系統(tǒng)不僅僅是商業(yè)產(chǎn)品，更是國(guó)家的戰(zhàn)略經(jīng)濟(jì)和安全資產(chǎn)，人工智能公司也成為這場(chǎng)地緣政治斗爭(zhēng)中的關(guān)鍵杠桿。

為什么是“大科技”？

本報(bào)告特別關(guān)注針對(duì)大型科技公司的政策干預(yù)?！按罂萍肌保˙ig Tech）一詞起源于2013年，現(xiàn)在通常用于指代Google、Apple、Facebook、Amazon和Microsoft（縮寫(xiě)為GAFAM），有時(shí)還包括Uber或Twitter等公司。

這些大公司積累了強(qiáng)大的網(wǎng)絡(luò)效應(yīng)、數(shù)據(jù)和基礎(chǔ)設(shè)施資源。其經(jīng)濟(jì)實(shí)力使這些公司能夠在社交媒體、醫(yī)療保健、教育和跨媒體等各個(gè)領(lǐng)域鞏固優(yōu)勢(shì)地位。關(guān)注大型科技公司有利于對(duì)科技政策干預(yù)進(jìn)行把握，理由包括：

①　便于監(jiān)管機(jī)構(gòu)調(diào)查大型科技企業(yè)的侵入性數(shù)據(jù)監(jiān)視、對(duì)用戶自主權(quán)的干涉、壟斷以及歧視等重要問(wèn)題。

②　大型科技企業(yè)對(duì)更廣泛的生態(tài)系統(tǒng)產(chǎn)生了一系列連鎖反應(yīng)，激勵(lì)甚至迫使其他公司加入進(jìn)來(lái)。例如，谷歌和Facebook采用行為廣告商業(yè)模式，推動(dòng)商業(yè)監(jiān)控成為互聯(lián)網(wǎng)的商業(yè)模式之一。

③　整個(gè)科技行業(yè)和政府對(duì)大型科技公司的依賴與日俱增。這些公司的核心業(yè)務(wù)戰(zhàn)略是讓自己成為基礎(chǔ)設(shè)施，使自己成為技術(shù)生態(tài)系統(tǒng)中許多環(huán)節(jié)（如云計(jì)算、廣告、支付系統(tǒng)）不可或缺的環(huán)節(jié)。如果這些公司在運(yùn)營(yíng)過(guò)程中出現(xiàn)問(wèn)題，則容易引發(fā)連鎖反應(yīng)。

戰(zhàn)略重點(diǎn)

基于上述背景，以下戰(zhàn)略優(yōu)先事項(xiàng)顯得尤為重要：

1、責(zé)任倒置：在危害發(fā)生時(shí)，應(yīng)當(dāng)讓公司證明他們沒(méi)有造成損害，而不是由公眾和監(jiān)管機(jī)構(gòu)在傷害發(fā)生后介入調(diào)查、識(shí)別和尋找解決方案。

2、打破政策領(lǐng)域之間的孤島，更好地解決一項(xiàng)政策議程的進(jìn)展對(duì)其他政策議程的影響，避免企業(yè)利用政策間的不一致來(lái)發(fā)揮自己的優(yōu)勢(shì)。

3、確定政策方法是否能夠有效監(jiān)管行業(yè)行為，并及時(shí)地調(diào)整戰(zhàn)略，防止科技企業(yè)逃避政府監(jiān)管。

4、超越對(duì)立法和政策的狹隘關(guān)注，接受基礎(chǔ)廣泛的變革理論。例如，可以利用股東提案讓大型科技企業(yè)對(duì)侵犯人權(quán)的行為負(fù)責(zé)。

行動(dòng)之窗：AI監(jiān)管格局

圍繞人工智能政策的關(guān)鍵需求，報(bào)告從大規(guī)模AI模型、反競(jìng)爭(zhēng)行為、算法問(wèn)責(zé)制、數(shù)據(jù)最小化、科技和金融資本、生物識(shí)別監(jiān)控、國(guó)際數(shù)字貿(mào)易等方面闡述了未來(lái)AI的監(jiān)管策略。要點(diǎn)包括：

1、削弱科技公司的數(shù)據(jù)優(yōu)勢(shì)。

數(shù)據(jù)政策就是人工智能政策，為遏制公司的數(shù)據(jù)優(yōu)勢(shì)而采取措施是限制科技公司權(quán)力集中的關(guān)鍵。因此，報(bào)告建議：

①　制定公司收集或生成消費(fèi)者數(shù)據(jù)的明確限制規(guī)則（也稱為數(shù)據(jù)最小化規(guī)則）。

②　在人工智能政策的制定過(guò)程中將隱私法和競(jìng)爭(zhēng)法進(jìn)行有效銜接，避免公司利用這些規(guī)則的不適配來(lái)為自己謀取利益。

③　優(yōu)化監(jiān)管指南和執(zhí)法措施，對(duì)企業(yè)的數(shù)據(jù)優(yōu)勢(shì)整合行為進(jìn)行審查，使執(zhí)法者能夠在損害發(fā)生之前進(jìn)行干預(yù)，制止濫用數(shù)據(jù)的行為。

2、改革競(jìng)爭(zhēng)執(zhí)法手段，降低科技行業(yè)的技術(shù)集中度。

①　遏制大型科技企業(yè)利用數(shù)據(jù)優(yōu)勢(shì)兼并其他公司，并在企業(yè)從事反競(jìng)爭(zhēng)行為時(shí)對(duì)其進(jìn)行調(diào)查和處罰。

②　推進(jìn)反壟斷法案的進(jìn)程，為反壟斷執(zhí)法者提供更強(qiáng)大的工具來(lái)挑戰(zhàn)科技行業(yè)特有的濫用行為。

③　整合技術(shù)政策領(lǐng)域的競(jìng)爭(zhēng)分析。確定互聯(lián)網(wǎng)平臺(tái)公司可能利用隱私措施鞏固自身優(yōu)勢(shì)的場(chǎng)景，分析云市場(chǎng)的過(guò)度集中如何對(duì)網(wǎng)絡(luò)安全產(chǎn)生連鎖影響（例如，2017年亞馬遜網(wǎng)絡(luò)服務(wù)公司的云服務(wù)器發(fā)生導(dǎo)流故障，導(dǎo)致多個(gè)醫(yī)療保健和醫(yī)院系統(tǒng)癱瘓）。

3、規(guī)范ChatGPT、BARD等大型模型。

①　從正在出臺(tái)的歐盟人工智能法案中吸取經(jīng)驗(yàn)，防止“通用人工智能”出現(xiàn)監(jiān)管例外。警惕大型語(yǔ)言模型（LLM）和其他類(lèi)似技術(shù)帶來(lái)的系統(tǒng)性風(fēng)險(xiǎn)，傾注更多而不是更少的監(jiān)管審查。

②　強(qiáng)制保留技術(shù)文檔，從而確保這些模型的開(kāi)發(fā)人員對(duì)數(shù)據(jù)和設(shè)計(jì)選擇負(fù)責(zé)。

③　貫徹競(jìng)爭(zhēng)法，以遏制生成式人工智能的結(jié)構(gòu)依賴性、解決反競(jìng)爭(zhēng)行為，同時(shí)對(duì)人工智能系統(tǒng)建立公共責(zé)任制，防止對(duì)消費(fèi)者和正常市場(chǎng)競(jìng)爭(zhēng)造成損害。

4、反對(duì)將審計(jì)作為人工智能的主要政策監(jiān)管方法。

①　越來(lái)越多的政策提倡對(duì)人工智能系統(tǒng)進(jìn)行審計(jì)。但審計(jì)無(wú)法應(yīng)對(duì)大型科技公司與公眾之間的權(quán)力失衡，可能進(jìn)一步鞏固科技行業(yè)的內(nèi)部權(quán)力，并且會(huì)分散對(duì)結(jié)構(gòu)性風(fēng)險(xiǎn)的關(guān)注。

②　審計(jì)規(guī)則基于流程的性質(zhì)使它很容易被公司內(nèi)部化，淡化更為根本且重要的結(jié)構(gòu)性變革方法，阻礙“利益相關(guān)者提出基本原則問(wèn)題的能力，并將道德因素（即使系統(tǒng)完美地執(zhí)行了任務(wù)，但是否代表該系統(tǒng)就是公正的？）從更根本的改革中排除出去。

③　因此，報(bào)告建議對(duì)有害人工智能施加強(qiáng)有力的結(jié)構(gòu)性改革措施，例如禁令、停業(yè)規(guī)則等。

5、防止生物識(shí)別監(jiān)控在智能汽車(chē)等新領(lǐng)域的無(wú)序擴(kuò)展。

①　實(shí)踐證明，數(shù)據(jù)保護(hù)法在防止生物識(shí)別系統(tǒng)危害方面的監(jiān)管并不到位。在這種環(huán)境下，全面明令禁止企業(yè)在某些領(lǐng)域收集和使用數(shù)據(jù)應(yīng)當(dāng)是未來(lái)政策干預(yù)的關(guān)鍵。

②　汽車(chē)制造商正在與大型科技公司建立合作伙伴關(guān)系，從而實(shí)現(xiàn)與汽車(chē)硬件系統(tǒng)的深度集成。然而，當(dāng)下的生物識(shí)別實(shí)際應(yīng)用已經(jīng)蔓延到對(duì)情感、性格和意圖的推斷上。例如，用于跟蹤送貨司機(jī)的車(chē)內(nèi)監(jiān)控系統(tǒng)集成了情緒識(shí)別系統(tǒng)，聲稱可以監(jiān)控司機(jī)的“注意力”，并密切關(guān)注潛在的攻擊行為。該行為不僅可能不符合相稱性、公平性和透明度原則，還可能具有歧視性影響。

③　有鑒于此，歐盟人工智能法案已經(jīng)提出要明確禁止情感識(shí)別，并將其列為最高級(jí)別類(lèi)別的“不可接受風(fēng)險(xiǎn)”。另外，報(bào)告還建議應(yīng)該更嚴(yán)格地執(zhí)行數(shù)據(jù)最小化條款，以遏制虛擬現(xiàn)實(shí)和汽車(chē)等新領(lǐng)域中生物特征數(shù)據(jù)收集的擴(kuò)展。

6、防止數(shù)字貿(mào)易協(xié)定削弱國(guó)家對(duì)算法問(wèn)責(zé)制和競(jìng)爭(zhēng)政策的監(jiān)管。

①　“數(shù)字貿(mào)易”規(guī)則可能會(huì)削弱數(shù)據(jù)隱私、算法問(wèn)責(zé)制和科技行業(yè)競(jìng)爭(zhēng)的監(jiān)管效果。貿(mào)易協(xié)定包括具有約束力的國(guó)際規(guī)則，這些規(guī)則限制了政府監(jiān)管商業(yè)公司的范圍。由于談判的保密性和相對(duì)不受公眾政治壓力的影響，它們已成為科技行業(yè)為爭(zhēng)取優(yōu)惠待遇而進(jìn)行激烈游說(shuō)的焦點(diǎn)。

②　然而，貿(mào)易協(xié)定中的非歧視禁令規(guī)則不應(yīng)被視作大型科技公司免受?chē)?guó)外競(jìng)爭(zhēng)監(jiān)管的工具。報(bào)告認(rèn)為數(shù)字貿(mào)易協(xié)定樹(shù)立了一個(gè)危險(xiǎn)的先例：科技行業(yè)現(xiàn)在把貿(mào)易協(xié)定視為一個(gè)舞臺(tái)，它們可以通過(guò)游說(shuō)確立政策立場(chǎng)，從而形成對(duì)它們有利的規(guī)則。

③　另外，貿(mào)易協(xié)議中對(duì)源代碼和算法的保密規(guī)則不應(yīng)該被當(dāng)做削弱算法透明度的工具，監(jiān)管當(dāng)局應(yīng)當(dāng)對(duì)人工智能系統(tǒng)進(jìn)行更主動(dòng)和持續(xù)的監(jiān)控。

編輯：黃飛

?