成熟的人工智能可以讓世界變得更美好。它可能會讓我們戰(zhàn)勝癌癥，改善世界各地的醫(yī)療保健，或者干脆讓我們擺脫主宰我們生活的卑微工作。

這是上個月工程師、投資者、研究人員和政策制定者在人類層面人工智能聯(lián)合會議上聚集在一起的主要話題。

然而，一股恐懼的潛流也在一些談判中出現(xiàn)了。有些人擔(dān)心被機(jī)器人或代碼取代工作;其他人則害怕機(jī)器人起義?？謶趾秃侠頁?dān)憂之間的界限在哪里?

為了將兩者分開,Futurism在會議上向五位人工智能專家詢問了他們對未來的人工智能的恐懼。

希望,考慮到他們的擔(dān)憂,我們將能夠引導(dǎo)社會朝著更好的方向發(fā)展,我們將人工智能用于所有的好東西,比如對抗全球流行病或給予更多的人接受教育,而不是那些壞的東西。

問：當(dāng)我們談人工智能，我們在害怕什么?

KENNETH STANLEY，佛羅里達(dá)中央大學(xué)教授，高級工程經(jīng)理和優(yōu)步艾實驗室的工作人員

答：我認(rèn)為最明顯的擔(dān)憂是當(dāng)人工智能被用來傷害人類的時候。有很多不同的應(yīng)用程序可以想象這種情況的發(fā)生。我們必須非常小心，讓壞的一面消失。解決如何讓人工智能負(fù)責(zé)是一個非常棘手的問題;它有更多的維度，而不僅僅是科學(xué)。這意味著所有的社會都需要參與到回答這個問題中來。

關(guān)于如何開發(fā)安全AI：

所有的技術(shù)都可以被用來做壞事，我認(rèn)為人工智能只是另一個例子。人類一直在努力不讓新技術(shù)用于邪惡目的。我相信我們可以做到這一點：我們可以把正確的制衡機(jī)制放在適當(dāng)?shù)奈恢茫怪踩?/p>

我想我不知道我們應(yīng)該做些什么，但我可以提醒我們，我們要非常小心、循序漸進(jìn)地對人工智能的影響做出反應(yīng)，并在我們前進(jìn)的過程中學(xué)習(xí)。

IRAKLI BERIDZE，聯(lián)合國UNICRI的人工智能和機(jī)器人中心主任

答：我認(rèn)為人工智能最危險的是它的發(fā)展速度。危險與否取決于它的發(fā)展速度以及我們能以多快的速度適應(yīng)它。如果我們失去了平衡，我們可能會陷入麻煩。

關(guān)于恐怖主義、犯罪和其他風(fēng)險來源：

我認(rèn)為，對人工智能的危險應(yīng)用，將是犯罪分子或大型恐怖組織利用它來擾亂大型進(jìn)程，或者僅僅是造成純粹的傷害。***可能通過數(shù)字戰(zhàn)爭造成傷害，也可能是機(jī)器人、無人機(jī)、人工智能和其他東西的結(jié)合，這可能是非常危險的。

當(dāng)然，其他的風(fēng)險也來自于失業(yè)。如果大量失業(yè)沒有找到解決辦法，那將是極其危險的。像致命的自動武器系統(tǒng)之類的東西應(yīng)該被妥善管理——否則就會有巨大的濫用的可能性。

關(guān)于如何前進(jìn)：

人工智能技術(shù)具有雙重性。當(dāng)然，我的信念是，人工智能不是一種武器;人工智能是一種工具。它是一個強大的工具，這個強大的工具可以用于好的或壞的東西。我們的任務(wù)是確保其用于好的事情，從中獲得的好處最多，而且大多數(shù)風(fēng)險都是可以理解和減輕的。

JOHN LANGFORD，微軟首席研究員

答：我認(rèn)為我們應(yīng)該警惕無人機(jī)。我認(rèn)為自動化無人機(jī)在很多方面都是潛在的危險。船上的無人駕駛武器的計算效率還不夠高，不足以做一些有用的事情。但在五到十年的時間里，我可以想象一架無人機(jī)可以在船上進(jìn)行足夠的計算，這樣它就能真正有用了。你可以看到，無人機(jī)已經(jīng)在戰(zhàn)爭中被使用，但它們?nèi)匀皇侨祟惪刂频摹Ｋ麄儧]有理由不能攜帶某種學(xué)習(xí)系統(tǒng)，而且相當(dāng)有效。這是我擔(dān)心的問題。

HAVA SIEGELMANN，美國國防部高級研究計劃局技術(shù)辦公室項目經(jīng)理

答：每一種技術(shù)都可以被用來做壞事。我認(rèn)為它掌握在使用它的人手中。沒有不好的技術(shù)，只有不好的人。這取決于誰能接觸到這項技術(shù)以及我們?nèi)绾问褂盟?/p>

TOMAS MIKOLOV，F(xiàn)ACEBOOK AI研究科學(xué)家

答：當(dāng)有很多人對某件事有興趣，并進(jìn)行投資時，一些人便開始濫用它。我發(fā)現(xiàn)有些人甚至在我們做人工智能之前就已經(jīng)開始銷售人工智能了，這讓我感到不安，他們正在假裝知道它將解決什么問題。

這些奇怪的創(chuàng)業(yè)公司也有一些很有前景的東西，這些都是很好的人工智能例子，當(dāng)它們的系統(tǒng)基本上是在優(yōu)化一條路徑時，可能有人根本就不關(guān)心它，比如聊天機(jī)器人，它比上一個版本稍微好一點。也許在花費了數(shù)萬個小時的工作之后，通過過度優(yōu)化一個單一的價值，一些創(chuàng)業(yè)公司就會有這樣的大主張，他們確實取得了一些以前沒有人能做的事情。

但是，讓我們誠實地說，這些團(tuán)體最近的許多突破，我不想說，沒有人關(guān)心，他們也沒有賺到錢。它們更像魔術(shù)。特別是那些認(rèn)為人工智能只是過度優(yōu)化單一任務(wù)的人，他們無法將其擴(kuò)展到除了非常簡單的問題之外的其他任何事情。

有些人甚至對這些系統(tǒng)有一點批評，很快就會遇到與公司的崇高主張相違背的問題。