根據(jù)普林斯頓信息技術(shù)和政策中心（Center for Information Technology and Policy，CITP）的一項(xiàng)研究，雖然人工智能系統(tǒng)鼓勵(lì)我們洞察我們所依賴的互聯(lián)網(wǎng)大數(shù)據(jù)時(shí)代，然而這卻容易對(duì)女性以及宗教種族群體產(chǎn)生一些偏見(jiàn)。

　　現(xiàn)在是機(jī)器學(xué)習(xí)和 AI 算法的黃金時(shí)代，智能算法的應(yīng)用無(wú)處不在。根據(jù)計(jì)算機(jī)科學(xué)副教授 Arvind Narayanan 的研究，這種現(xiàn)象卻會(huì)不經(jīng)意強(qiáng)化和擴(kuò)大了社會(huì)上流傳的或者用戶潛意識(shí)中的既定偏見(jiàn)。其文章已經(jīng)提前發(fā)表在 2016 年 8 月的 arXiv 數(shù)據(jù)庫(kù)中。

　　Arvind Narayanan 團(tuán)隊(duì)發(fā)現(xiàn)那些有意將女性更多地和家庭言辭結(jié)合的算法，同時(shí)有的算法的結(jié)果還會(huì)對(duì)老年人或者特定種族信仰人群掛上負(fù)面影響。“對(duì)于每一種記錄在人群中的偏差，包括對(duì)性別的刻板印象和宗族歧視，在今天的機(jī)器學(xué)習(xí)模型中，我們已經(jīng)能夠復(fù)制出來(lái)，”Narayanan 說(shuō)道，這項(xiàng)研究是她在博士后研究期間和英國(guó)巴斯大學(xué)計(jì)算機(jī)科學(xué)系的 Aylin Caliskan-Islam，以及 CITP 的訪問(wèn)學(xué)者 oanna Bryson 一起完成的。

　　研究通過(guò)探索詞組在文本中的使用規(guī)律，并用機(jī)器學(xué)習(xí)算法構(gòu)建語(yǔ)言模型，比如，通過(guò)關(guān)聯(lián)所有維基百科或者新聞節(jié)選報(bào)道的十億數(shù)量級(jí)的字節(jié)。語(yǔ)言模型每次只學(xué)習(xí)一個(gè)單詞，研究員通過(guò)單詞的幾何坐標(biāo)，對(duì)其在一個(gè)多維空間中的位置進(jìn)行定位。如果這些單詞經(jīng)常挨著某些特定的單詞，那么表明這兩者間具有關(guān)聯(lián)性，并且其所處的位置也能反映這些單詞的含義。

　　通過(guò)這些單詞在坐標(biāo)系中的位置關(guān)系，研究人員發(fā)現(xiàn)了字里行間的偏見(jiàn)印象。

　　如果用這些文本訓(xùn)練模型，那么不難發(fā)現(xiàn)，互聯(lián)網(wǎng)算法加劇了刻板偏見(jiàn)的擴(kuò)大，比如男性經(jīng)常會(huì)和“醫(yī)生”聯(lián)系在一起，這樣的詞還包括“雄心壯志”及“藥物”。然而“護(hù)士”這個(gè)詞更多的和女性關(guān)聯(lián)在一起，這樣的字眼還有“護(hù)理”及“藥物”。這個(gè)模型將會(huì)默認(rèn)“護(hù)士”是女性的，即使譯文中的護(hù)士是男性的。

　　為了檢測(cè)算法結(jié)果的偏差，研究人員努力建立一種針對(duì)人類對(duì)象的長(zhǎng)期使用的測(cè)試工具，來(lái)揭露語(yǔ)言模型中潛在的偏差，即內(nèi)隱聯(lián)想測(cè)驗(yàn)（Implicit Association Test）。以人類為主要目標(biāo)的檢測(cè)譯文來(lái)檢測(cè)一些與名字、膚色等人口這類詞匯相連接的，比如“邪惡”或者“美好”等帶有主觀情感的詞語(yǔ)。通過(guò)機(jī)器學(xué)習(xí)算法所使用語(yǔ)言的幾何化模型，可以更直接的通過(guò)測(cè)算褒義、貶義、中性的詞匯之間的間隔來(lái)鎖定學(xué)習(xí)結(jié)果中出現(xiàn)的偏差。

　　諸如此類的偏見(jiàn)足以對(duì)現(xiàn)實(shí)世界產(chǎn)生巨大的影響。比如，在 2013 年哈佛大學(xué) Latanya Sweeney 帶領(lǐng)的研究團(tuán)隊(duì)發(fā)現(xiàn)非裔美國(guó)人的名字更容易和通緝令形成配對(duì)。這樣的結(jié)果無(wú)意地引起了種族歧視，比如當(dāng)一個(gè)非裔美國(guó)人投遞他的簡(jiǎn)歷時(shí)，如果雇員在網(wǎng)上搜索他的名字，那么歧視很容易發(fā)生，因?yàn)樗拿指嗟暮头缸镞@樣的字眼掛鉤。

　　“人工智能的力量其實(shí)和人類旗鼓相當(dāng)，并不存在碾壓或完爆的現(xiàn)象，”Bryson 是這樣理解人工智能與人類的關(guān)系的，“我們?nèi)祟惪梢圆粩嗟貙W(xué)習(xí)。只要我們拔掉電源，AI 程序的發(fā)展就會(huì)停滯在某個(gè)階段?！?/p>

　　Narayanan 認(rèn)為，如果我們可以處理這種偏見(jiàn)，人類可以采取一些措施從而使這種情況得以減輕緩解。也就是說(shuō)，人類可以從數(shù)學(xué)意義上更正一個(gè)語(yǔ)言模型的偏差，并對(duì)算法出現(xiàn)類似的錯(cuò)誤結(jié)果之時(shí)提高警覺(jué)。但更重要的是，我們還應(yīng)該注意自身的用語(yǔ)習(xí)慣。