Synced最近對全年的人工智能十大“失敗案例”進(jìn)行了首次總結(jié)?

AI人臉識別闖紅燈 董明珠躺槍

董明珠在寧波“闖紅燈”被抓？原來是在過馬路時公交廣告上董小姐的“大頭照”太明顯，一下子被闖紅燈人臉識別系統(tǒng)捕捉到，竟然誤以為是真人！董小姐人在家中，卻在社交媒體上不幸躺槍成了“jaywalker”。

那輛巴士剛好被投放了印有董明珠頭像的廣告。當(dāng)這輛巴士行駛在寧波中山東路，經(jīng)過江夏橋東一帶時，恰好從中間垂直方向穿過了一條亮著紅燈的斑馬線，而車身廣告上董明珠的照片正臉剛好對準(zhǔn)了一側(cè)的紅燈，如果是個真人的話，TA的確是在闖紅燈。高大上的AI檢測系統(tǒng)頓時變成“人工智障”，把照片當(dāng)成了真人，直接把這輛公交車拍了下來，還鎖定了車身上董明珠的照片，判定此人闖紅燈。該系統(tǒng)還從數(shù)據(jù)庫里搜索，把董明珠的車身廣告照片和一行「＊＊＊，在江夏橋東違法闖紅燈」曝光到了大屏幕上。寧波交警事后回應(yīng)稱，技術(shù)人員已經(jīng)對該系統(tǒng)進(jìn)行了全面升級。

Uber自動駕駛汽車殺死一名行人

在公共道路上第一個已知的與車輛相關(guān)的自動駕駛行人死亡事件中，優(yōu)步的自動駕駛SUV于3月28日在亞利桑那州的Tempe市撞倒了一名女性行人，致其當(dāng)場死亡。

Uber發(fā)現(xiàn)其自動駕駛軟件決定在汽車傳感器檢測到行人后卻沒有采取任何行動。根據(jù)美國國家運(yùn)輸安全委員會關(guān)于事故的初步報告，這是因?yàn)閁ber的自動模式禁用了沃爾沃工廠安裝的自動緊急制動系統(tǒng)。

在悲劇發(fā)生之后，Uber在北美城市暫停了自駕駕駛測試，而Nvidia和豐田也在美國停止了自駕車道路測試。事故發(fā)生8個月后，Uber宣布計劃在匹茲堡恢復(fù)自駕車路試，盡管該公司的自駕車未來仍然不明朗。

IBM Watson醫(yī)療保健出現(xiàn)重大漏洞

BM最初是一個問答機(jī)器，一直在廣泛的應(yīng)用程序和流程（包括醫(yī)療保健）中探索Watson的AI功能。 2013年，IBM開發(fā)了Watson首個針對癌癥治療推薦的商業(yè)應(yīng)用程序，該公司在過去五年中與醫(yī)院和研究中心建立了許多重要的合作伙伴關(guān)系。但Watson AI Health并沒有給醫(yī)生留下深刻印象。一些人抱怨它對癌癥治療提出了錯誤的建議，可能會導(dǎo)致嚴(yán)重甚至致命的后果。

據(jù)報道，在沒有顯著進(jìn)步的項(xiàng)目上花費(fèi)數(shù)年后，IBM正在縮小Watson Health的規(guī)模并裁掉該部門員工的一半以上。

亞馬遜AI招聘工具性別歧視

據(jù)報道，亞馬遜人力資源部門在2014年至2017年期間使用了支持AI的招聘軟件來幫助審核簡歷并提出建議。然而，該軟件對男性申請人更有利，因?yàn)槠淠Ｐ褪窃谶^去十年中提交給亞馬遜的簡歷上接受培訓(xùn)的，當(dāng)時雇用了更多的男性候選人。

據(jù)報道，該軟件降級了包含“女性”一詞的簡歷，或暗示申請人是女性，例如因?yàn)樗麄冊妥x過女子大學(xué)。亞馬遜此后放棄了該軟件。該公司并未否認(rèn)使用該工具提出建議，但表示從未用于評估候選人。

DeepFakes將色情主角錯認(rèn)成《星戰(zhàn)》Daisy Ridley

去年12月，Reddit網(wǎng)上出現(xiàn)了一些國際頂級女星——25歲《星戰(zhàn)》女星黛絲烈尼（Daisy Ridley）的***，原因竟然是是“DeepFakes”采用生成對抗網(wǎng)絡(luò)，將明星的臉與***中女性的臉進(jìn)行了交換。

雖然面部交換技術(shù)已經(jīng)開發(fā)多年，但DeepFakes的方法顯示，任何擁有足夠面部圖像的人現(xiàn)在都可以制作他們自己非常有說服力的假視頻。色請視頻的創(chuàng)作者，就是將《星球大戰(zhàn)》知名演員Daisy Ridley的臉與上面的色情女星交換了。

2018年，逼真的名人假視頻依舊充斥著互聯(lián)網(wǎng)。雖然這種方法在技術(shù)上并非“失敗”，但其潛在的危險是嚴(yán)重而深遠(yuǎn)的：如果視頻證據(jù)不再可信，這可能會進(jìn)一步鼓勵流傳假新聞。

Google Photo出現(xiàn)了bug

Google相冊包含一個相對未知的AI功能，可以自動檢測具有相同背景／場景的圖像，并將它們合并為單個全景圖片。 1月份，Reddit用戶“MalletsDarker”在滑雪場拍攝了三張照片：兩張是風(fēng)景照，另一張是他朋友的照片。當(dāng)谷歌照片合并這三個時，發(fā)生了一件奇怪的事情，因?yàn)樗呐笥训哪X袋被渲染成一個從森林中窺視出來的尖峰巨人。尷尬作死瞬間如圖：

這張照片使得r／funny subreddit排名前十，并獲得了202k的贊成票。社交媒體稱贊谷歌算法巧妙地混合了圖像，同時嘲笑它在構(gòu)圖基礎(chǔ)方面的愚蠢。

LG機(jī)器人Cloi在揭幕儀式上“傻掉”

1月8日應(yīng)該是LG的IoT AI助手Cloi在拉斯維加斯舉行的2018年國際消費(fèi)電子展上首次亮相的那一天。 Cloi被呈現(xiàn)為一個簡單而愉快的界面，能夠識別控制家用電器的語音命令。然而，當(dāng)可愛的機(jī)器人走上舞臺進(jìn)行現(xiàn)場演示時，觀眾正在觀看和等待，一直等待……因?yàn)樗茨芑貞?yīng)LG市場營銷主管的命令，只產(chǎn)生尷尬的沉默。

波士頓動力學(xué)機(jī)器人blooper

SoftBank擁有的機(jī)器人制造商波士頓動力公司今年不止一次為互聯(lián)網(wǎng)贏得了驚喜：它的機(jī)器人SpotMini可以靈巧地用頭戴式抓手臂打開門；它的人形機(jī)器人阿特拉斯現(xiàn)在可以做“跑酷”了——順利跳過原木，跳躍一系列40厘米的步驟而不會停下步伐。

但即使是波士頓動力公司也有其不小心“哎呀”的時刻：在未來科學(xué)家和技術(shù)專家大會上首次亮相時，阿特拉斯在一個完美的演示中舉起了盒子等。但正當(dāng)表演結(jié)束準(zhǔn)備離開時，這個可憐的機(jī)器人絆倒在窗簾上，笨拙地從舞臺上摔下來。不過，它摔倒的樣子倒也挺像人類的。

2018年AI對世界杯的預(yù)測幾乎都錯

2018年世界杯是一年中最重要的體育賽事，高盛、德國多特蒙德技術(shù)大學(xué)、Electronic Arts、彼爾姆國立研究大學(xué)和其他機(jī)構(gòu)的人工智能研究人員運(yùn)行了機(jī)器學(xué)習(xí)模型，來預(yù)測多階段比賽的結(jié)果。然而大多數(shù)都是完全錯誤的，只有EA——使用其視頻游戲FIFA 18的新評級進(jìn)行模擬——正確地支持了勝利者法國。EA游戲引擎以眾多機(jī)器學(xué)習(xí)技術(shù)為后盾，旨在使玩家的表現(xiàn)盡可能逼真。

SQL服務(wù)數(shù)據(jù)科學(xué)家Nick Burns提供了一個解釋：“無論你的模型有多好，它們都只是和你的數(shù)據(jù)一樣好……最近的足球數(shù)據(jù)還不足以預(yù)測世界杯的表現(xiàn)。缺少信息和未定義的影響太多了。”

Startup聲稱可以從面部掃描預(yù)測智商

以色列機(jī)器學(xué)習(xí)初創(chuàng)公司Faception提出了有爭議的說法，即其人工智能技術(shù)可以分析面部圖像和骨骼結(jié)構(gòu)，以揭示人們的智商，個性，甚至是暴力傾向。數(shù)據(jù)科學(xué)家Ben Snyder在Twitter上斥責(zé)該公司的技術(shù)：“那是顱相學(xué)。你只是把ML當(dāng)作一個種族主義的背鍋俠。“這條推文收到了超過6，500次轉(zhuǎn)推送和近17，000個點(diǎn)贊。