面部識(shí)別系統(tǒng)早已在機(jī)場(chǎng)、火車(chē)站和智能手機(jī)上使用，但它們的應(yīng)用范圍正日益擴(kuò)大到公共和私人空間。本期Nature探討了這項(xiàng)技術(shù)的力量和缺陷。從誤判到隱私、道德與人權(quán)，面部識(shí)別是否被濫用了呢？

人在家中坐，鍋從天上來(lái)。

威廉姆斯正在密歇根州底特律的家中，一通電話(huà)打進(jìn)來(lái)：我們是警察局的，已經(jīng)掌握了你盜竊的事實(shí)，你可以投案自首。

他不以為然，直到一小時(shí)后，警車(chē)駛來(lái)，在妻子和女兒的面前，威廉姆斯被戴上了手銬，以「盜竊罪」被逮捕。

茫然而憤怒的威廉姆斯被押上了警車(chē)。

在審訊室，威廉姆斯才知道了自己「犯案」的過(guò)程：偷盜了當(dāng)?shù)氐母邫n商品店鋪，偷走了5只價(jià)值3800美元的手表。

威廉姆斯當(dāng)然喊冤，一位老老實(shí)實(shí)的上班族又怎么可能去偷東西呢？

可警察接下來(lái)拿出來(lái)的「證據(jù)」，卻讓他有口難辯。

這是一張監(jiān)控畫(huà)面的截圖：畫(huà)面中的男子身穿黑色衣服，頭戴紅色帽子，那是一頂圣路易斯紅雀隊(duì)的隊(duì)帽。

畫(huà)面中的人與威廉姆斯唯一相同的點(diǎn)就是：他們是身材相似的黑人。

「這不是我！你以為所有黑人都長(zhǎng)一樣嗎？」威廉姆斯憤怒地質(zhì)問(wèn)道。

「電腦說(shuō)是你?！咕煺f(shuō)。

根據(jù)人臉識(shí)別算法，系統(tǒng)給威廉姆斯定了罪。

用「面部識(shí)別」抓人，42人被標(biāo)記，8人真有罪

人臉識(shí)別技術(shù)不只在底特律的警察局使用，事實(shí)上，這已經(jīng)成為警察辦案的重要工具。

而且，深受警察們信任。

故事中的主人公威廉姆斯被證明了清白，因?yàn)樗斜让娌孔R(shí)別更強(qiáng)有力的證據(jù)——不在場(chǎng)證明。

但疑問(wèn)也來(lái)了，面部識(shí)別真的奏效嗎？畢竟，誤判的后果會(huì)給被害人帶來(lái)不可彌補(bǔ)的傷害。

2016年至2019年間，倫敦的首都警察實(shí)驗(yàn)室測(cè)試了實(shí)時(shí)面部識(shí)別技術(shù)，他們?cè)谝惠v警車(chē)的控制室里監(jiān)控一些試驗(yàn)。

「這就像你在電影里看到的一樣，」 達(dá)拉格·默里說(shuō)，他是爾切斯特埃塞克斯大學(xué)的一名法律學(xué)者。當(dāng)攝像機(jī)掃描購(gòu)物中心和廣場(chǎng)上的路人時(shí)，圖像會(huì)傳回貨車(chē)內(nèi)的電腦。

系統(tǒng)在人臉周?chē)?huà)出矩形，并在直播中識(shí)別出人臉。然后提取出關(guān)鍵特征，并將其與觀察名單中的嫌疑人進(jìn)行比較。如果有匹配，它就會(huì)從直播中提取圖像，同時(shí)從觀察列表中提取圖像。

圖源：《編碼偏見(jiàn)》

在查看對(duì)比結(jié)果后，警方會(huì)決定是否沖出去阻止這名「嫌疑人」，或者逮捕他們。

該系統(tǒng)由總部位于東京的科技巨頭 NEC 銷(xiāo)售，該軟件標(biāo)記出了42個(gè)人；警察以「不可信」為由駁回了16個(gè)，但還是沖出去阻止了其他人。最后，其中4人在人群中消失了。在剩下的22人中，有8人被證明是的確有罪的。

警察們認(rèn)為，考慮到系統(tǒng)已經(jīng)掃描了成千上萬(wàn)張面孔，其準(zhǔn)確率還是不錯(cuò)的。

2018年，計(jì)算機(jī)科學(xué)家 Timnit Gebru、當(dāng)時(shí)還在紐約市微軟研究院的 Joy Buolamwini 發(fā)表了一篇開(kāi)創(chuàng)性的論文。他們發(fā)現(xiàn)，在識(shí)別女性和有色人種的性別方面，領(lǐng)先的面部識(shí)別軟件包的表現(xiàn)要比識(shí)別男性和白人的表現(xiàn)差得多。

這引起了人們對(duì)面部識(shí)別的巨大爭(zhēng)議。

今年6月，全球最大的科學(xué)計(jì)算機(jī)協(xié)會(huì)——位于紐約市的計(jì)算機(jī)協(xié)會(huì)敦促私人和政府暫停使用人臉識(shí)別技術(shù)，理由是「基于民族、種族、性別和其他人類(lèi)特征的明顯偏見(jiàn)」。

深度學(xué)習(xí)引入識(shí)別系統(tǒng)，更準(zhǔn)確但仍有偏見(jiàn)

十年前，「深度學(xué)習(xí)」被引入這個(gè)領(lǐng)域以來(lái)，從那時(shí)起，人臉識(shí)別的準(zhǔn)確性已經(jīng)有了很大的提高。

但是，這是否意味著它足夠好，可以用于低質(zhì)量的「野外」圖像，是一個(gè)極具爭(zhēng)議的問(wèn)題。

這大多數(shù)都涉及一個(gè)多階段的過(guò)程，使用深度學(xué)習(xí)來(lái)訓(xùn)練大量數(shù)據(jù)集上的大規(guī)模神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別模式。

人臉識(shí)別系統(tǒng)通過(guò)分析人臉的幾何形狀來(lái)生成「faceprint」，這是一種可以用來(lái)識(shí)別或確認(rèn)一個(gè)人的生物特征識(shí)別系統(tǒng)。另一種用法是面部分析，通過(guò)性別、年齡、種族、情緒等標(biāo)簽，給一張面孔下定義。

典型系統(tǒng)中的第一階段，定位圖像中的一個(gè)或多個(gè)人臉。

監(jiān)控?cái)z像頭拍攝的人臉，可能會(huì)在不同的光照條件下從不同的角度觀看，這使得他們比標(biāo)準(zhǔn)護(hù)照照片更難識(shí)別。算法將在數(shù)百萬(wàn)張照片上進(jìn)行訓(xùn)練，以定位人臉上的「標(biāo)志」 ，比如眼睛、鼻子和嘴巴，它將信息提煉成一個(gè)簡(jiǎn)潔的文件，大小從小于100字節(jié)到幾千字節(jié)不等。

接下來(lái)的任務(wù)是將面部「正常化」 ，人為地將其旋轉(zhuǎn)成一個(gè)正面、光線(xiàn)充足的圖像。這樣就產(chǎn)生了一組面部特征，可以與從現(xiàn)有的面部數(shù)據(jù)庫(kù)中提取的特征進(jìn)行比較。這通常包括在受控條件下拍攝的照片，比如警察的啞照。由于特征表示是緊湊的、結(jié)構(gòu)化的文件，計(jì)算機(jī)可以快速掃描數(shù)以百萬(wàn)計(jì)的文件以找到最接近的匹配。

將人臉與大型數(shù)據(jù)庫(kù)（稱(chēng)為一對(duì)多識(shí)別）進(jìn)行匹配是人臉識(shí)別系統(tǒng)的兩種主要類(lèi)型之一。另一個(gè)是一對(duì)一的驗(yàn)證，這是一個(gè)相對(duì)簡(jiǎn)單的任務(wù)，確保一個(gè)人符合自己的照片。它可以應(yīng)用于任何事情，從解鎖智能手機(jī)到國(guó)家邊境的護(hù)照檢查。

在進(jìn)行了一些對(duì)比試驗(yàn)后，得出結(jié)論： 大多數(shù)數(shù)據(jù)包對(duì)白人男性面孔的準(zhǔn)確度往往高于對(duì)有色人種或女性面孔。特別是，在數(shù)據(jù)庫(kù)中被歸類(lèi)為非洲裔美國(guó)人或亞洲人的面孔，被錯(cuò)誤識(shí)別的可能性是被歸類(lèi)為白人的面孔的10-100倍。女性也比男性更容易出現(xiàn)假陽(yáng)性。

另外，戶(hù)外、光線(xiàn)不好或者圖像顆粒狀可能會(huì)影響匹配率。

「電腦說(shuō)是你」，真假面孔誰(shuí)來(lái)定？

在一對(duì)一的驗(yàn)證方面，例如確認(rèn)護(hù)照或智能手機(jī)的合法擁有者，人工智能已經(jīng)變得極其準(zhǔn)確，甚至與眼睛最敏銳的人類(lèi)一樣?jì)故臁?/p>

在這個(gè)領(lǐng)域，前沿的研究目前集中在偵測(cè)惡意攻擊上。例如，用于解鎖手機(jī)的面部識(shí)別系統(tǒng)，很容易被照片欺騙。

「3D 面部識(shí)別效果更好?！笿ain 說(shuō)，「但現(xiàn)在最大的挑戰(zhàn)是高質(zhì)量的面具?！乖谝粋€(gè)項(xiàng)目中，Jain 和他的合作者正在通過(guò)運(yùn)用皮膚紋理來(lái)檢測(cè)出「假面孔」。

但是，正如默里所發(fā)現(xiàn)的那樣，一對(duì)多的驗(yàn)證卻并沒(méi)有想象中那么簡(jiǎn)單。盡管有了足夠多的觀察名單，但被標(biāo)記為假陽(yáng)性的數(shù)量很容易超過(guò)真實(shí)的結(jié)果。

今年一月在英國(guó)加的夫舉行的一場(chǎng)足球比賽中，抗議面部識(shí)別的橫幅（在2019冠狀病毒疾病流感大流行之前）。

當(dāng)警察通過(guò)面部識(shí)別監(jiān)測(cè)犯罪行為，必須迅速做出阻止某人的決定時(shí)，這個(gè)問(wèn)題就顯現(xiàn)出來(lái)。而在緩慢的調(diào)查中，面部識(shí)別同樣也會(huì)發(fā)生錯(cuò)誤。

文章開(kāi)頭所說(shuō)的威廉姆斯被警察的面部識(shí)別辦案系統(tǒng)誤判的事情，就是一個(gè)典型的例子。

美國(guó)公民自由聯(lián)盟的律師菲爾 · 梅耶爾認(rèn)為，這項(xiàng)技術(shù)應(yīng)該被禁止。「這種方法行不通，即使它行得通，對(duì)于政府來(lái)說(shuō)，如果沒(méi)有令人信服的結(jié)果，用這種方法來(lái)監(jiān)視自己的公民仍然是非常危險(xiǎn)的?！?/p>

在美國(guó)公民自由協(xié)會(huì)的投訴發(fā)生后不久，底特律警察局長(zhǎng)詹姆斯 · 克雷格承認(rèn)：如果該軟件單獨(dú)使用，「96% 的情況下」會(huì)錯(cuò)誤識(shí)別案件。

出于對(duì)種族偏見(jiàn)和歧視的擔(dān)憂(yōu)，在過(guò)去的18個(gè)月里，至少有11個(gè)美國(guó)城市禁止公共部門(mén)進(jìn)行面部識(shí)別。但底特律警方仍在使用這項(xiàng)技術(shù)。

2019年底，警方采取了禁止直播監(jiān)控的政策，并且規(guī)定只對(duì)靜態(tài)圖像和用于刑事調(diào)查的一部分動(dòng)態(tài)圖像使用該軟件。

「而威廉姆斯是在該政策實(shí)施前被捕的」克雷格在6月份時(shí)說(shuō)。

面部識(shí)別分析的其他方面研究，比如試圖根據(jù)一個(gè)人的面部表情推斷出他的性格，則更具爭(zhēng)議性。

研究人員已經(jīng)證明，這種方法并不奏效ーー即使是最好的軟件也只能根據(jù)人猜測(cè)的圖像進(jìn)行訓(xùn)練。

但是世界各地的公司仍然在購(gòu)買(mǎi)未經(jīng)證實(shí)的技術(shù)，這些技術(shù)被一些企業(yè)用在面試中，根據(jù)求職者談話(huà)的視頻評(píng)估求職者的個(gè)性。

阿利坎特的計(jì)算機(jī)科學(xué)家紐里亞 · 奧利弗認(rèn)為，政府應(yīng)該規(guī)范面部識(shí)別和其他潛在技術(shù)的使用，以防止濫用。

奧利弗是一家名為歐洲學(xué)習(xí)與智能系統(tǒng)實(shí)驗(yàn)室（European Laboratory for Learning and Intelligent Systems）的區(qū)域網(wǎng)絡(luò)的聯(lián)合創(chuàng)始人兼副總裁。他表示：

「系統(tǒng)在未經(jīng)適當(dāng)評(píng)估其性能，沒(méi)有經(jīng)過(guò)驗(yàn)證和再現(xiàn)性的情況下就被廣泛使用，后果是難以預(yù)測(cè)的?！?/p>

「面部識(shí)別」濫用帶來(lái)對(duì)隱私、道德和人權(quán)的擔(dān)憂(yōu)

一些法規(guī)提案要求當(dāng)局建立準(zhǔn)確性標(biāo)準(zhǔn)，并要求人類(lèi)審查任何算法的結(jié)論。

但是，渥太華互聯(lián)網(wǎng)基金會(huì) Mozilla 的技術(shù)研究員、專(zhuān)門(mén)審計(jì)面部識(shí)別系統(tǒng)的德博拉?拉吉（Deborah Raji）表示：基于 NIST 基準(zhǔn)的標(biāo)準(zhǔn)本身太低，不足以證明部署該技術(shù)是合理的。

Deborah Raji 專(zhuān)長(zhǎng)于審計(jì)面部識(shí)別系統(tǒng)

今年，Raji，Buolamwini 和 Gebru等人發(fā)表了另一篇有關(guān)商業(yè)系統(tǒng)性能的論文，他們指出，盡管一些公司在對(duì)淺膚色和深膚色面孔進(jìn)行性別分類(lèi)方面有所改進(jìn)，但他們?nèi)匀粺o(wú)法準(zhǔn)確猜測(cè)一個(gè)深膚色面孔的年齡。

「目前的評(píng)估過(guò)程非常不成熟，每當(dāng)我們建立了一個(gè)新的評(píng)估維度，我們就會(huì)發(fā)現(xiàn)，這個(gè)行業(yè)的表現(xiàn)并不像它認(rèn)為的那樣。」Raji 表示。

「重要的是，公司應(yīng)該更多地披露它們?nèi)绾螠y(cè)試和訓(xùn)練面部識(shí)別系統(tǒng)，并與使用該技術(shù)的社區(qū)進(jìn)行磋商。」

紐約大學(xué)人工智能研究所的法律學(xué)者 Amba Kak 認(rèn)為，技術(shù)標(biāo)準(zhǔn)不能阻止面部識(shí)別系統(tǒng)被用于歧視性用途。

「這些系統(tǒng)是否會(huì)成為警務(wù)中普遍存在的歧視做法的另一個(gè)工具？ 」卡克補(bǔ)充說(shuō)，「人類(lèi)操作員往往最終只是確認(rèn)系統(tǒng)的偏差，而不是糾正它。」

諸如蘇格蘭場(chǎng)的外部審查等研究表明，人類(lèi)往往高估這項(xiàng)技術(shù)的可信度，即使他們看到了電腦的虛假匹配旁邊的真實(shí)面孔。

Kak和其他人支持暫停使用任何面部識(shí)別技術(shù)，這不僅是因?yàn)樵摷夹g(shù)還不夠好，還因?yàn)樾枰腿绾畏乐蛊浔粸E用進(jìn)行更廣泛的討論。

默里表示，「這項(xiàng)技術(shù)將得到改善，但是人們?nèi)匀粦岩蓪?duì)無(wú)辜的人們進(jìn)行永久搜索的合法性，以及把人們列入觀察名單的標(biāo)準(zhǔn)?！?/p>

對(duì)隱私、道德和人權(quán)的擔(dān)憂(yōu)正在增長(zhǎng)。

印度有世界上最大的生物識(shí)別計(jì)劃，其中涉及使用面部識(shí)別來(lái)建立名為Aadhaar的巨型國(guó)家身份證系統(tǒng)。

生活在印度的任何人都可以去Aadhaar中心拍照，系統(tǒng)會(huì)將該照片與13億人的現(xiàn)有記錄進(jìn)行比較，以確保申請(qǐng)人尚未使用其他名稱(chēng)進(jìn)行注冊(cè)。

「這是一個(gè)令人難以置信的體系，」曾擔(dān)任該體系顧問(wèn)的賈恩表示，「它的美妙之處在于，它確保了一個(gè)人只有一個(gè)身份證?！?/p>

但批評(píng)人士稱(chēng)，這項(xiàng)法案將非身份證持有者變成了二等公民。還有人稱(chēng)，這項(xiàng)法案被用來(lái)在選舉前將合法公民從選民名單中清除。

紐約大學(xué)（New York University）計(jì)算機(jī)科學(xué)家、現(xiàn)代人工智能研究所（AI Now Institute）聯(lián)席主任凱特?克勞福德（Kate Crawford）表示：

「在歷史的這一點(diǎn)上，我們需要更加懷疑那些聲稱(chēng)我們需要更加精確的公共監(jiān)控形式的說(shuō)法?！?/p>

2019年8月，克勞福德呼吁政府暫停使用面部識(shí)別算法。

但與此同時(shí)，在宣布其試點(diǎn)項(xiàng)目成功后，蘇格蘭場(chǎng)在一月份宣布，它將開(kāi)始在倫敦各地部署實(shí)時(shí)面部識(shí)別系統(tǒng)。

責(zé)任編輯：PSY