科技大佬馬斯克曾口出“狂言”，表露他創(chuàng)建腦機(jī)接口（BCI）公司Neuralink的野心是“讓人與AI共生，達(dá)到超級(jí)智能”。這看起來(lái)像是《攻殼機(jī)動(dòng)隊(duì)》和《黑客帝國(guó)》里才會(huì)出現(xiàn)的場(chǎng)景，但是BCI發(fā)展迅速，植入式設(shè)備現(xiàn)已能讓癱瘓人士控制義肢，非植入式的意念鼠標(biāo)、耳機(jī)也初具商業(yè)雛形。智能手機(jī)的出現(xiàn)也不過(guò)短短二十幾年，誰(shuí)都不能保證現(xiàn)在的90后、00后就不會(huì)在有生之年看到人與AI“喜結(jié)連理”。在這之前，通過(guò)BCI，讓AI輔助人類生產(chǎn)生活，就好像結(jié)婚前的戀愛(ài)一樣，是必經(jīng)的磨合階段。使用BCI與AI相連，你只需發(fā)出少量的指令，即可完成駕駛、工業(yè)操作等復(fù)雜任務(wù)，這可能是未來(lái)人的日常。

但是，AI能否成為“賢內(nèi)助”，還要先面臨拷問(wèn)：假如在人類使用BCI與AI合作中出現(xiàn)了事故，責(zé)任到底是該人類，還是AI（或其開(kāi)發(fā)者）來(lái)負(fù)呢？

現(xiàn)有的人機(jī)交互界面中，人、機(jī)是物理上分離的，使用者和AI進(jìn)行的指令操作可以通過(guò)空間、時(shí)間的間隔進(jìn)行切割，因此區(qū)分人類、AI的失誤，歸責(zé)相對(duì)容易；但當(dāng)引入了BCI這個(gè)第三者，貴圈就亂了。這一切還得從BCI的性質(zhì)說(shuō)起。

BCI是腦與外部設(shè)備的橋梁，大腦可以通過(guò)電極等裝置與機(jī)器、計(jì)算機(jī)中的AI交流。外部設(shè)備除了接受大腦信號(hào)以外，也可以反向?qū)Υ竽X進(jìn)行一定刺激。這可能會(huì)導(dǎo)致使用者模糊人機(jī)之間的界限，分不清通過(guò)BCI做出的行動(dòng)究竟是源自自身意志，還是AI的影響。在一項(xiàng)2016年的研究中，一名接受深度腦刺激（DBS）治療抑郁癥的患者就曾報(bào)告說(shuō)他懷疑自己的行為方式受到了裝置刺激的影響，而非完全出自個(gè)人意志。未來(lái)隨著人機(jī)之間信號(hào)傳輸率上升、延遲性減少、控制和反饋的復(fù)雜性增加，這樣的影響可能會(huì)加深。

在人類使用BCI與AI協(xié)同操作機(jī)器時(shí)，機(jī)器接收的指令可能來(lái)自于雙方。當(dāng)它執(zhí)行了導(dǎo)致事故的錯(cuò)誤行動(dòng)時(shí)，不同于傳統(tǒng)的人機(jī)交互，由于人機(jī)間的緊密聯(lián)系，就可能難以區(qū)分導(dǎo)致該行動(dòng)的指令來(lái)源。就算能追蹤每一條信號(hào)的來(lái)源，問(wèn)題仍然存在：使用BCI的方式本身就可能影響人類的大腦，不妨理解為在做決定的過(guò)程中，AI一直在給你吹枕邊風(fēng)。如果無(wú)法分離二者的主動(dòng)性和行動(dòng)，又該如何區(qū)分責(zé)任呢？這可能就需要借助哲學(xué)上的能動(dòng)性（Agency）概念了。

主要/次要行動(dòng)者理論

想象一下，你開(kāi)著新款智能車過(guò)年回家，如果選擇手動(dòng)駕駛，掌握方向盤(pán)的你此時(shí)就是一名行動(dòng)者（Agent）。你根據(jù)肉眼所見(jiàn)的道路狀況，在腦中計(jì)劃出接下來(lái)的行動(dòng)，通過(guò)轉(zhuǎn)動(dòng)方向盤(pán)的方式使車輛朝目的地行駛，就是哲學(xué)上能動(dòng)性的體現(xiàn)。

能動(dòng)性是指某一實(shí)體對(duì)外界或內(nèi)部刺激做出的反應(yīng)。不同于簡(jiǎn)單做出行為，行動(dòng)者的能動(dòng)性表現(xiàn)出目的性和計(jì)劃性。同理，假如你開(kāi)車途中，突然很想跟家人在線視個(gè)頻——道路千萬(wàn)條，安全第一條，此時(shí)就要選擇無(wú)人駕駛模式，將對(duì)車輛的操控權(quán)交給AI。AI根據(jù)攝像頭反饋的道路狀況進(jìn)行路線規(guī)劃后，操縱車輛按目標(biāo)路線行駛，也是其能動(dòng)性的體現(xiàn)。

然而在使用BCI輔助駕駛時(shí)，能動(dòng)性很難在二者之間界定。這是因?yàn)槿撕虯I對(duì)車輛進(jìn)行共同控制，無(wú)法通過(guò)直接觀察車輛的動(dòng)作，回溯二者發(fā)出的行動(dòng)指令，并對(duì)其簡(jiǎn)單分離。假如在這種情況下出現(xiàn)交通事故，將很難進(jìn)行責(zé)任界定。

為解決這一難題，慕尼黑大學(xué)醫(yī)史研究所的研究員安德烈亞斯·沃肯斯坦（Andreas Wolkenstein）提出，不用由下至上追蹤每一條指令的路徑，而是由上至下，從“能做出的行動(dòng)”入手，區(qū)分主要和次要行動(dòng)者（primary and secondary agents）。兩者均不要求具有自由意志，其區(qū)別僅在于具有不同程度的能力：（1）有能力起始、同意和終止行動(dòng)；（2）在行動(dòng)過(guò)程中，能夠獨(dú)立接管和調(diào)整復(fù)雜的行動(dòng)步驟。主要行動(dòng)者的行動(dòng)自由度更大，有能力根據(jù)計(jì)劃和感知到的環(huán)境因素做出判斷，調(diào)整選擇；而次要行動(dòng)者只能在前者允許的范圍內(nèi)采取行動(dòng)。

假設(shè)你駕駛著智能車去接女神下班，通過(guò)BCI授權(quán)車載AI按路線行駛。在你啟動(dòng)汽車后，由于AI只能按照你所想的路線，讓汽車執(zhí)行有限的轉(zhuǎn)向、直行等動(dòng)作，此時(shí)你是主要行動(dòng)者，而AI是次要行動(dòng)者。

現(xiàn)在你從后視鏡發(fā)現(xiàn)情敵追上來(lái)了，怎么能讓他超過(guò)你？于是你把車輛切換到手動(dòng)駕駛，正想化身秋名山車神時(shí)，卻被AI強(qiáng)行阻止了。原來(lái)它的系統(tǒng)里設(shè)置有安全限速程序，并且監(jiān)測(cè)到了你想超速的危險(xiǎn)想法。由于你只能做出AI允許的安全駕駛操作，任何超速的舉動(dòng)都會(huì)被AI禁止，此刻，AI升級(jí)為主要行動(dòng)者，行動(dòng)受限的你只能退居次要了。

考慮能動(dòng)性可以幫助我們更好地分解行動(dòng)。當(dāng)一項(xiàng)最終的行動(dòng)釀成事故時(shí)，就可以根據(jù)發(fā)生時(shí)刻的主要/次要行動(dòng)者關(guān)系——包括這項(xiàng)行動(dòng)的發(fā)起者是誰(shuí)，誰(shuí)又應(yīng)當(dāng)“考核”這個(gè)行動(dòng)——來(lái)確定因果關(guān)系。這有助于將行動(dòng)及其造成的后果與責(zé)任聯(lián)系起來(lái)。

確定行動(dòng)-行動(dòng)后果后，就可以前進(jìn)至后果-責(zé)任追究了。法律上要求追究責(zé)任的對(duì)象需要具有主體資格，同時(shí)還需要具有主觀過(guò)錯(cuò)，包括故意和過(guò)失。雖然AI已經(jīng)越來(lái)越多地展現(xiàn)出智能行為，但目前法律上仍未賦予其主體資格；同時(shí)其也還未達(dá)到具有自由意志的程度，故也不存在主觀過(guò)錯(cuò)。

既然如此，當(dāng)行動(dòng)后果歸于AI時(shí)，其最終產(chǎn)生的責(zé)任就只能由背后的自然人或法人來(lái)承擔(dān)。那么，使用者從開(kāi)發(fā)者處購(gòu)買BCI裝置，通過(guò)BCI與AI協(xié)作完成任務(wù)，使用中出現(xiàn)事故時(shí)，責(zé)任就將根據(jù)行動(dòng)者-能動(dòng)性-行動(dòng)-直接后果-責(zé)任的對(duì)應(yīng)，在消費(fèi)者、BCI和AI的開(kāi)發(fā)者中進(jìn)行分配。

問(wèn)題展望

但即使我們能夠?qū)⑿袆?dòng)與后果一一對(duì)應(yīng)起來(lái)，事情的復(fù)雜程度仍在其之上。除了故意造成的外，責(zé)任還包括過(guò)失責(zé)任，即應(yīng)當(dāng)預(yù)見(jiàn)危害卻沒(méi)有預(yù)見(jiàn)，或是已預(yù)見(jiàn)但相信會(huì)避免。

那么，對(duì)于科技公司為代表的開(kāi)發(fā)者來(lái)說(shuō)，這種“應(yīng)當(dāng)預(yù)見(jiàn)”的危害包括哪些呢？同時(shí)還有使用者與AI之間的授權(quán)關(guān)系，例如使用者授權(quán)AI自動(dòng)駕駛出了交通事故，使用者作為授權(quán)者，是否具有一定的監(jiān)督責(zé)任？還是應(yīng)當(dāng)推定其對(duì)AI具有百分百的信任，從而可以減少責(zé)任？未來(lái)實(shí)際案例的復(fù)雜程度可能遠(yuǎn)超我們的想象。

即使上述問(wèn)題都可以順利解決，隨著科技的發(fā)展，另一個(gè)問(wèn)題不可避免：是否賦予強(qiáng)AI一定的主體資格，讓它自身也能承擔(dān)一部分責(zé)任？例如，2016年谷歌無(wú)人駕駛汽車與一輛大巴發(fā)生擦碰事故時(shí)，美國(guó)高速公路安全管理局（NHTSA）就認(rèn)為控制汽車的AI可以被視為“司機(jī)”?，F(xiàn)在進(jìn)一步考慮何種智能程度的AI可以獲得主體資格，又能獲得什么程度的主體資格——唯可嘆路漫漫其修遠(yuǎn)兮。

法律的發(fā)展固然有其滯后性，尤其是科技迅猛發(fā)展的今天；但盡可預(yù)見(jiàn)之力對(duì)科技風(fēng)險(xiǎn)提前做出的思量，大概就是人類向前方斬開(kāi)荊棘之路時(shí)，那把達(dá)摩克里斯之劍的劍鞘吧。

責(zé)任編輯：ct