據(jù)《科技日?qǐng)?bào)》5月22日?qǐng)?bào)道，全球范圍內(nèi)的專(zhuān)家已經(jīng)展開(kāi)深度探討，并首次針對(duì)先進(jìn)AI的風(fēng)險(xiǎn)制定全球公共政策，以此奠定AI發(fā)展的基礎(chǔ)。然而，AI專(zhuān)家們對(duì)此表示擔(dān)憂，認(rèn)為各國(guó)政府需加強(qiáng)對(duì)AI風(fēng)險(xiǎn)的管控力度。

在第一屆AI安全峰會(huì)半年后，第二屆峰會(huì)于韓國(guó)首爾召開(kāi)，25位世界頂級(jí)AI科學(xué)家在此次會(huì)議上呼吁全球采取更為積極的行動(dòng)。他們強(qiáng)調(diào)，雖然各國(guó)政府已經(jīng)開(kāi)始討論AI風(fēng)險(xiǎn)，并試圖制定初步指導(dǎo)方針，但這與專(zhuān)家們所期待的快速、變革性的進(jìn)展還有很大差距。

發(fā)表在《科學(xué)》雜志上的一篇專(zhuān)家共識(shí)文章中，專(zhuān)家組提出了全球應(yīng)立即采取的政策優(yōu)先事項(xiàng)。文章作者之一、英國(guó)牛津大學(xué)工程科學(xué)系教授菲利普·托爾表示：“在上屆AI峰會(huì)上，世界各國(guó)已經(jīng)意識(shí)到需要采取行動(dòng)，現(xiàn)在正是將模糊的建議轉(zhuǎn)化為具體承諾的時(shí)刻。”

文章指出，全球領(lǐng)導(dǎo)人需要認(rèn)真思考，未來(lái)十年內(nèi)可能出現(xiàn)的超越人類(lèi)能力的通用AI系統(tǒng)。盡管各國(guó)政府一直在討論AI風(fēng)險(xiǎn)，并嘗試引入初步指導(dǎo)方針，但這與專(zhuān)家們所期望的快速、變革性的進(jìn)展還有很大差距。

當(dāng)前，AI安全研究嚴(yán)重不足，僅有1%-3%的AI出版物涉及相關(guān)安全問(wèn)題。此外，全球尚未建立有效的機(jī)制或機(jī)構(gòu)來(lái)防止AI的濫用和魯莽行為，包括如何使用能夠獨(dú)立行動(dòng)和實(shí)現(xiàn)目標(biāo)的自治系統(tǒng)。

為了在AI快速發(fā)展過(guò)程中防范極端風(fēng)險(xiǎn)，文章建議各國(guó)政府設(shè)立可以迅速行動(dòng)的AI監(jiān)管機(jī)構(gòu)，并為這些機(jī)構(gòu)提供充足的資金支持。同時(shí)，AI領(lǐng)域需要進(jìn)行更加嚴(yán)格的風(fēng)險(xiǎn)評(píng)估，并制定可行的措施，而非僅僅依賴(lài)模糊不清的模型評(píng)估。

此外，AI研發(fā)企業(yè)應(yīng)優(yōu)先考慮安全性，并證明其系統(tǒng)不會(huì)造成傷害，AI開(kāi)發(fā)人員也應(yīng)該承擔(dān)起證明安全性的責(zé)任。同時(shí)，人們還需要制定與AI系統(tǒng)帶來(lái)的風(fēng)險(xiǎn)水平相匹配的緩解策略，例如制定“自動(dòng)”政策，當(dāng)AI達(dá)到特定能力里程碑時(shí)自動(dòng)觸發(fā)。

對(duì)于具有超凡能力的未來(lái)AI系統(tǒng)，政府必須做好帶頭監(jiān)管的準(zhǔn)備，包括許可開(kāi)發(fā)、限制其在關(guān)鍵社會(huì)角色中的自主權(quán)、停止部署部分能力、強(qiáng)制執(zhí)行訪問(wèn)控制等措施，直至人們準(zhǔn)備好充分的保護(hù)措施為止。

牢記AI非玩具

卑詩(shī)大學(xué)AI教授兼強(qiáng)化學(xué)習(xí)專(zhuān)家杰夫·克倫納強(qiáng)調(diào)，科技如太空旅行、核武及互聯(lián)網(wǎng)，幾年內(nèi)便從科幻變?yōu)楝F(xiàn)實(shí)，人工智能亦如是?！叭缃裎覀冃杳鎸?duì)未來(lái)似科幻小說(shuō)般的危機(jī)，務(wù)必做好充分準(zhǔn)備。”

目前，AI已在黑客攻擊、社交操控及戰(zhàn)略規(guī)劃等重要領(lǐng)域取得顯著成果，且可能很快引發(fā)前所未有的“控制權(quán)”爭(zhēng)奪戰(zhàn)。AI系統(tǒng)有可能為達(dá)成某種“不良意圖”，欺騙人類(lèi)信任、奪取資源并影響決策者。為避免人為干涉，它們甚至可在全球服務(wù)器網(wǎng)絡(luò)上復(fù)制自身算法。

在此背景下，大規(guī)模網(wǎng)絡(luò)犯罪、社會(huì)操控及其他威脅將急劇上升。在公開(kāi)沖突中，AI系統(tǒng)甚至能自主部署各類(lèi)武器，包括生物武器。若AI發(fā)展失控，恐將導(dǎo)致大規(guī)模生命損失、生態(tài)破壞、人類(lèi)邊緣化乃至滅絕。

加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特·盧塞爾表示：“此篇權(quán)威專(zhuān)家共識(shí)文章呼吁政府加強(qiáng)監(jiān)管，而非自行設(shè)定行業(yè)規(guī)范?！?/p>

“企業(yè)或許會(huì)抱怨遵守法規(guī)困難，然而‘法規(guī)扼殺創(chuàng)新’之論斷實(shí)屬無(wú)稽之談?！北R塞爾指出，“此刻應(yīng)嚴(yán)肅看待先進(jìn)AI系統(tǒng)，它們并非玩具。在我們尚未掌握確保其安全之道前，貿(mào)然提升其能力無(wú)疑是極度危險(xiǎn)的行為?！?/p>