根據(jù)FuninUSA報(bào)道，微軟、谷歌和IBM的視覺系統(tǒng)要跟上現(xiàn)實(shí)世界需要做很多工作。這項(xiàng)研究的一些結(jié)果確實(shí)令人不安。

市場(chǎng)營(yíng)銷公司W(wǎng)underman Thompson的數(shù)據(jù)集團(tuán)進(jìn)行了這項(xiàng)研究，研究了著名的視覺AI對(duì)戴PPE口罩的男性和女性的觀察方式是否相同。

研究人員為每種性別拍攝了256張不同質(zhì)量、在不同地點(diǎn)的圖像，然后使用一些大型科技公司訓(xùn)練的通用模型：谷歌云視覺（Cloud Vision）、微軟Azure認(rèn)知服務(wù)計(jì)算機(jī)視覺（Cognitive Services Computer Vision）和IBM的沃森視覺（Watson Visua）來識(shí)別。

結(jié)果卻讓人有點(diǎn)不寒而栗。

雖然沒有一個(gè)系統(tǒng)在識(shí)別口罩方面特別出色，但它們識(shí)別男性口罩佩戴者的幾率是女性口罩佩戴者的兩倍。這種根據(jù)性別分類而產(chǎn)生的顯著的識(shí)別差異令人奇怪。

那么他們認(rèn)為這些女人戴的是什么呢？谷歌AI認(rèn)為28%的女性圖片中的嘴部是被膠帶封住。在8%的例子中，AI認(rèn)為這些人是面部有毛發(fā)的女性，看起來臉上有很多毛發(fā)。

IBM的沃森（Watson）則更進(jìn)一步。在23%的案例中，被識(shí)別為女性戴著封口膠。在另外23%的案例中，確定這是一位戴著鐐銬或鎖鏈的女性。

微軟的Azur計(jì)算機(jī)視覺可能也需要更精確的編碼。調(diào)查顯示，它們認(rèn)為40%是女性佩戴的時(shí)尚配飾，14%是女性涂著口紅。

這樣的結(jié)果可能會(huì)讓很多人想知道這些人工智能的想法是從哪里來的。一個(gè)簡(jiǎn)單的答案可能是“男人”。

然而，研究人員認(rèn)為，這些機(jī)器是在網(wǎng)絡(luò)上“一個(gè)黑暗的角落”里尋找靈感，在那里，女性是暴力或沉默的受害者。”

很難想象這是真的，而且隨著我們?cè)絹碓饺菀椎孛允г谌斯ぶ悄軈仓校@可能會(huì)帶來可怕的后果。

研究人員表示，他們并不是要妖魔化人工智能。（人工智能很擅長(zhǎng)為自己做這件事。）

相反， 正如Wunderman Thompson的數(shù)據(jù)科學(xué)主管伊林卡·巴桑（Ilinca Barsan）所指出：“如果我們想要我們的機(jī)器做準(zhǔn)確的和負(fù)責(zé)任的反映社會(huì)的工作， 我們需要幫助它們了解我們生活的社會(huì)動(dòng)態(tài)，阻止它們通過自動(dòng)化來強(qiáng)化現(xiàn)有的不平等，并讓它們?yōu)椤谩ぷ?。?/p>

不過，當(dāng)我問研究人員對(duì)IBM退出面部識(shí)別業(yè)務(wù)的想法時(shí)，他們回答說：“我們的研究側(cè)重于視覺標(biāo)簽識(shí)別，而不是面部識(shí)別，但如果人工智能模型（公認(rèn)是一般的）很容易混淆戴口罩的人和被堵住或被限制的人，那么對(duì)于IBM來說，退出一個(gè)如此容易被濫用、侵犯隱私和訓(xùn)練偏見的業(yè)務(wù)似乎是正確的（也是明智的）做法?！?/p>

在幫助機(jī)器理解關(guān)鍵元素方面，人類還沒有做得很好。比如人類本身。部分原因是機(jī)器沒有這種本能，部分原因是人類很難理解自己。

毫無疑問，人工智能在實(shí)驗(yàn)中也許發(fā)現(xiàn)了人類世界的深層潛意識(shí)，即女人在人類社會(huì)中的角色籠罩在某種黑暗奴役意識(shí)之中，當(dāng)然這種潛意識(shí)普通人在瀏覽網(wǎng)頁過程中無法察覺，但是當(dāng)人工智能遍歷網(wǎng)絡(luò)世界中卻能感受到大多數(shù)網(wǎng)絡(luò)的深層潛藏的意識(shí)并加以提煉學(xué)習(xí)，目前還不清楚實(shí)驗(yàn)進(jìn)行到了哪一個(gè)階段，但我們必須要清楚在人工智能認(rèn)知領(lǐng)域的研發(fā)，美國(guó)企業(yè)是領(lǐng)先世界的。

目前出現(xiàn)的這種風(fēng)險(xiǎn)在人工智能領(lǐng)悟后又將傳播多少黑暗呢？
責(zé)編AJX