對(duì)于許多人來(lái)說(shuō)，人臉識(shí)別已經(jīng)迅速?gòu)募夹g(shù)創(chuàng)新階段轉(zhuǎn)變?yōu)樯钍褂茫驗(yàn)槿澜缰辽儆袛?shù)百萬(wàn)人愿意忍受機(jī)場(chǎng)、iPhone或Facebook應(yīng)用場(chǎng)景中用軟件掃描他們的面孔。

但最近紐約大學(xué)AI Now研究所的研究人員發(fā)出強(qiáng)烈警告，不僅針對(duì)如今無(wú)處不在的人臉識(shí)別應(yīng)用，還有其更邪惡的表親：所謂的情感識(shí)別技術(shù)。該技術(shù)可以通過(guò)你鼻子的形狀，嘴巴的輪廓和你微笑的方式找到你內(nèi)心隱藏的信息。

這聽(tīng)起來(lái)像是來(lái)自從19世紀(jì)開(kāi)始挖掘的理論，確實(shí)如此。

AI Now日前發(fā)布了一份長(zhǎng)達(dá)56頁(yè)的2018年AI發(fā)展報(bào)告，重點(diǎn)說(shuō)明了人工智能發(fā)展過(guò)程中的重大問(wèn)題。其將“人工智能”稱(chēng)為，一個(gè)包含眾多學(xué)科嘗試模擬人類(lèi)判斷和營(yíng)銷(xiāo)炒作的總稱(chēng)——在沒(méi)有監(jiān)管且有效的道德審查的情況下持續(xù)發(fā)展。

該報(bào)告重點(diǎn)論述了人工智能領(lǐng)域眾多被廣泛使用和濫用的行為，包括種族歧視、警察監(jiān)視以及商業(yè)秘密法如何隱藏AI監(jiān)督公眾中的爭(zhēng)議代碼。

AI Now于去年成立，旨在解決人工智能的社會(huì)情感問(wèn)題，在這篇新發(fā)布的報(bào)告中，重點(diǎn)表達(dá)了人們對(duì)情感識(shí)別的恐懼和擔(dān)憂。

作為“人臉識(shí)別的一個(gè)子學(xué)科，情感識(shí)別可以基于人臉圖像或視頻檢測(cè)（發(fā)現(xiàn)）其個(gè)性，內(nèi)心感受，心理健康情況。

想象一下，你的老板通過(guò)使用機(jī)器學(xué)習(xí)相機(jī)來(lái)不斷評(píng)估你的工作精神狀態(tài)，警察基于你的面部“微表情”，借助“情感識(shí)別”技術(shù)來(lái)推斷你未來(lái)的犯罪行為……

“利用機(jī)器視覺(jué)和海量數(shù)據(jù)分析技術(shù)來(lái)發(fā)現(xiàn)事物相關(guān)性的能力將會(huì)引發(fā)一些可怕的結(jié)果。”

報(bào)告解釋說(shuō)，這是因?yàn)椤扒楦凶R(shí)別”技術(shù)只不過(guò)是人相的計(jì)算機(jī)化，是一種來(lái)自另一個(gè)時(shí)代被揭穿的偽科學(xué)，即一個(gè)人的性格可以從他們的身體 - 尤其是他們的面孔中辨別出來(lái)。

在19世紀(jì)80年代，這一理論還每被認(rèn)為是偽科學(xué)，后來(lái)，聲名狼藉的意大利犯罪學(xué)家切薩雷·隆布羅索（Cesare Lombroso）推動(dòng)了這一理論，今天很多人開(kāi)始相信它是對(duì)的了：它缺乏科學(xué)基礎(chǔ)，但很多人認(rèn)為它是一個(gè)有吸引力的想法。

而如今數(shù)據(jù)導(dǎo)向型的公司已經(jīng)抓住這個(gè)機(jī)會(huì)，不僅將名字與面孔關(guān)聯(lián)，甚至將人的整個(gè)行為模式和預(yù)測(cè)歸結(jié)為眉毛和鼻子之間的某種無(wú)形關(guān)系，而這種關(guān)系能通過(guò)計(jì)算機(jī)的“眼睛”來(lái)破譯。

早在兩年前，上海交大的學(xué)生發(fā)表的一篇論文稱(chēng)他們發(fā)明了一種僅根據(jù)人臉特征識(shí)別犯罪行為的機(jī)器學(xué)習(xí)算法。這篇論文受到了業(yè)界的廣泛批評(píng)，其中包括AI Now的Kate Crawford，他告訴The Intercept它構(gòu)成的“文字顱相學(xué)......的依據(jù)只是使用現(xiàn)代的監(jiān)督機(jī)器學(xué)習(xí)工具而不是“卡尺”。

Crawford以及她的同事比以往更加反對(duì)這種基于文化和科學(xué)的回歸算法預(yù)測(cè)的傳播。報(bào)告稱(chēng) “雖然人相學(xué)以及與其關(guān)系密切的納粹種族“科學(xué)”失去地位，但是研究人員仍然擔(dān)心人相學(xué)的思想會(huì)在情感識(shí)別應(yīng)用中死灰復(fù)燃。

“AI系統(tǒng)能夠告訴我們學(xué)生、客戶(hù)或犯罪嫌疑人的真實(shí)感受或者他們本質(zhì)上是什么類(lèi)型的人，這種思想對(duì)公司和政府非常具有吸引力，盡管這種主張的科學(xué)理由非常值得懷疑，但其差別對(duì)待的歷史也被較好的記載?！?/p>

在一封致The Intercept的電子郵件中，Crawford（AI Now聯(lián)合創(chuàng)始人兼紐約大學(xué)的杰出研究教授）與Meredith Whittaker（AI Now聯(lián)合創(chuàng)始人兼紐約大學(xué)杰出研究科學(xué)家）通過(guò)介紹兩家利用外貌特征來(lái)得出關(guān)于人的重大結(jié)論的公司為例子（反例），解釋了為什么情感識(shí)別在當(dāng)下的發(fā)展比以往更令人擔(dān)憂。

Crawford 認(rèn)為，“從Faception公司聲稱(chēng)他們可以通過(guò)人臉識(shí)別*** 到 HireVue公司 通過(guò)分析面試過(guò)程中錄制的面試者的面部微表情以預(yù)測(cè)他們將來(lái)是否會(huì)成為一名優(yōu)秀的員工，使用機(jī)器視覺(jué)和大規(guī)模數(shù)據(jù)分析挖掘事物相關(guān)性的能力將會(huì)引發(fā)一些非常令人疑惑的主張。

Faception據(jù)稱(chēng)可以從外貌上確定某人是否“心理上不平衡”、焦慮或有魅力，而HireVue則在相同基礎(chǔ)上對(duì)求職者進(jìn)行排名。

與一些自動(dòng)化的、無(wú)形判斷和決策的計(jì)算機(jī)系統(tǒng)一樣，情感識(shí)別技術(shù)出現(xiàn)錯(cuò)誤分類(lèi)、標(biāo)記的可能性是非常大的，特別是在基于薄弱科學(xué)基礎(chǔ)的情況下：“這些被系統(tǒng)描述的人如何競(jìng)爭(zhēng)結(jié)果？，“Crawford補(bǔ)充道。

“當(dāng)我們依靠“黑盒子”AI系統(tǒng)識(shí)別人類(lèi)的'內(nèi)在生活'或價(jià)值時(shí)將會(huì)發(fā)生什么？其中一些產(chǎn)品引用了極具爭(zhēng)議性的理論，這些理論在心理學(xué)文獻(xiàn)中長(zhǎng)期存在爭(zhēng)議，但卻被人工智能創(chuàng)業(yè)公司視為事實(shí)?！?/p>

更糟糕的是，科學(xué)對(duì)攝像機(jī)范圍內(nèi)的任何人做出判斷的是，制定這些決策的算法由算法開(kāi)發(fā)公司保密，且不受商業(yè)秘密的嚴(yán)格審查。AI Now的Whittaker指出公司機(jī)密正如被混淆了的且問(wèn)題累累的情感識(shí)別實(shí)踐：“因?yàn)榇蠖鄶?shù)這些技術(shù)都是由私人公司開(kāi)發(fā)的，這些公司是根據(jù)公司保密法運(yùn)作的，報(bào)告強(qiáng)烈建議保護(hù)這些技術(shù)中的道德舉報(bào)者。

Whittaker寫(xiě)道，“這樣的舉報(bào)至關(guān)重要，因?yàn)樵S多數(shù)據(jù)公司將隱私和透明視為一種責(zé)任，而不是一種美德：”雖然理由各不相同，但大多數(shù)[人工智能開(kāi)發(fā)人員]不承擔(dān)所有責(zé)任，并且要由客戶(hù)決定如何處理它?！皞慰茖W(xué)與最先進(jìn)的計(jì)算機(jī)工程相結(jié)合，并且沒(méi)有問(wèn)責(zé)制。 怎么可能出錯(cuò)？