近日，在日內(nèi)瓦聯(lián)合國舉行了常規(guī)武器公約關于致命自主武器系統(tǒng)的政府專家小組第一次會議。像“停止殺手機器人運動”這樣的組織正在鼓勵聯(lián)合國推進自主武器的國際監(jiān)管，這很好，因為談論這些問題將如何影響機器人和社會的未來是一件非常重要的事情。

然而近日看到了一個視頻，讓我覺得這是一場令人不安的自主武器辯論。在Elon Musk的“未來生活研究所”的支持下制作的這部名為“屠宰機器人”的視頻將圖像暴力與技術合理性相結(jié)合，想象一個非常暗淡的場景：一個虛構(gòu)的不久的將來，自主攜帶爆炸物的微型無人機在世界各地正在殺死數(shù)千人。

我們不會在這里嵌入視頻，因為它包含了一些暴力場景，包括教室里的恐怖襲擊（！）。

讓我感到非常失望的是機器人和人工智能研究人員，我本來是很尊重的，他們會支持這種聳人聽聞的說法，這似乎是為了讓人們感到震驚和恐慌，而不是傳遞任何有用的信息，來了解實際的問題是什么。這里的信息似乎是，如果你有興趣討論這些問題，或者你認為可能有其他可能更有效的方法來塑造未來的自主武器，除了呼吁禁止，那么你就和***站在一邊。這是一種非常熟悉的修辭形式，它被證明是有效的，因為它的目的不是要傳達事實，而是利用情緒和恐懼。另一個問題是，像這樣的視頻，由學者創(chuàng)建和推廣，可能會讓公眾更加不信任和害怕機器人，這是機器人界長期以來一直反對的事情。

就個人而言，我不是“殺手機器人”，也不是“有意義的人類控制之外的自主武器”。在這一點上，我覺得很難支持徹底的禁止，因為我認為這樣做對于一個尚未完全表征的復雜問題是一個潛在的無效的解決辦法。人工智能和武器控制專家們?nèi)匀辉谟懻撌裁矗貏e是應該受到管制或禁止，以及如何執(zhí)行。說“我們有機會阻止你剛才看到的未來”，正如加州大學伯克利分校教授斯圖爾特·拉塞爾（Russell，“屠宰機器人”的創(chuàng)造者之一）在錄像結(jié)束時所做的那樣，是一種過于簡單化，在我看來，自主武器不會阻礙無人機的小型化，不會阻礙面部識別技術的進步，也不會妨礙二者的融合，這就是“屠宰機器人”呈現(xiàn)的方案。

當被問及這部電影是否依賴恐怖主義時，羅素的一位同事，新南威爾士大學的一位AI教授托比·沃爾什（Toby Walsh）也不同意。他說：“這不是恐懼?！岸砹_斯駐聯(lián)合國大使剛才對聯(lián)合國常設委員會會議說，我們不用擔心致命的自主武器，因為它們太遙遠了，不必擔心。相反，這部電影的目的是要證明我們離自主武器有多近。它顯示了如果把一些現(xiàn)有的技術和這種技術的濫用放在一起，會發(fā)生什么事情。

兩年前，我回應了第一封公開信，呼吁禁止攻擊性自主武器，提出另一種觀點，即為什么自主武器也可能是有益的。拉塞爾和沃爾什以及麻省理工學院教授馬克斯·泰格馬克（Max Tegmark）在IEEE《科技縱覽》出版的一篇文章中做了回應，該文章從以下幾點開始：

“我們歡迎埃文·阿克曼（Evan Ackerman）為擬議禁止攻擊性自主武器的討論做出貢獻。這是一個復雜的問題，雙方都有需要仔細權(quán)衡的有趣論據(jù)?！?/p>

我完全同意。現(xiàn)在進行這個討論是為了更加和平的未來而努力的最好的方式，但是為了做到這一點，我們必須進行討論，而不是制造嚇人的視頻來詆毀我們不同意的人，同時加強不切實際和日益消極的看法，人們已經(jīng)有了機器人技術。