由北卡羅來納州達勒姆市杜克大學的程序設計團隊設計的照片編輯工具，不僅可以為數(shù)字演示文稿提供更清晰，更清晰的圖像，而且還可以為老式視頻游戲迷帶來數(shù)小時的樂趣，他們現(xiàn)在可以為低矮的視頻生成清晰的面孔。填充早期產(chǎn)品的像素字符。但是該工具也出乎意料地浮出水面，涉及在大規(guī)模機器學習項目中使用數(shù)據(jù)集的偏見。

DUL研究人員創(chuàng)建了PULSE（通過潛伏空間探索進行照片上采樣），以根據(jù)低像素源數(shù)據(jù)創(chuàng)建更逼真的圖像。在今年早些時候分發(fā)的研究論文中，該團隊解釋了他們的方法與早期從8位圖像生成逼真的圖像的努力有何不同。

報告稱：“ PULSE不是從低分辨率圖像開始，而是慢慢添加細節(jié)，而是遍歷高分辨率自然圖像流形，搜索縮小到原始低分辨率圖像的圖像。”

這意味著他們用于構(gòu)建逼真的面部表情的算法是從大量真實人物的圖像數(shù)據(jù)集中提取的。

PULSE系統(tǒng)可以在幾秒鐘內(nèi)將16像素x 16像素的圖像轉(zhuǎn)換為1024像素乘1024像素的圖像。

連同他們的發(fā)現(xiàn)，團隊將PULSE上傳到GitHub并鼓勵進行實驗。

俄羅斯開發(fā)人員Denis Malimonov上周開發(fā)并發(fā)行了自己的應用，名為Face Depixelizer。隨著用戶上傳他們自己的幽默作品，這些作品通常來自經(jīng)典游戲，例如Minecraft的Steve和Creeper，Super Mario的Mario以及Zelda的Legend的Link，因此在Twitter上的反應迅速。

杜克大學團隊認識到PULSE的娛樂價值，但指出在一個探索和研究程度更高的時代，PULSE應該在實踐上和經(jīng)濟上證明是有用的。

報告說：“在這項工作中，我們旨在將模糊的低分辨率圖像轉(zhuǎn)換為清晰，逼真的高分辨率圖像?！?“在許多領域……由于成本，硬件限制或內(nèi)存限制等問題，很難獲得清晰的高分辨率圖像。”

他們列舉了醫(yī)學，天文學，顯微鏡和衛(wèi)星圖像作為可以從他們的努力中受益的領域。

但是上周末，Twitter用戶開始報告他們的實驗趨勢令人不安。一些報告說，當他們使用有色人種的圖像時，重新生成的圖像將它們轉(zhuǎn)換為白色圖形。前總統(tǒng)巴拉克·奧巴馬（Barack Obama），已故世界冠軍拳擊手穆罕默德·阿里（Muhammad Ali），女演員露西·劉（Lucy Liu）和紐約州眾議員亞歷山大·奧卡西奧·科爾特斯（Alexandria-Ocasio Cortez）都通過這些應用程序被渲染為白人。

令人遺憾的結(jié)果應該不是完全意外的。隨著機器學習和人工智能在研究項目中的越來越多的應用，對海量數(shù)據(jù)集的依賴也越來越多。但是近年來的報告警告說，一些最常用的數(shù)據(jù)集包含的信息不能代表整個社會。一份報告指出，一個常用的數(shù)據(jù)庫包含的內(nèi)容是男性占74%，白人占83%，這凸顯了人們對性別偏見和種族代表不足的可能性的擔憂。

在2018年，一種執(zhí)法工具吹噓膚色淺的男人的面部識別錯誤率低于1%，但是在確定膚色較深的受試者的性別時，卻犯了35%的驚人錯誤。

微軟，亞馬遜和IBM最近宣布，他們將停止或限制向警察部門銷售面部識別工具，部分原因是他們對依賴人工智能的種族，性別，種族和年齡偏見的擔憂。

在錄像帶致命警察槍擊事件和黑人嫌疑人窒息事件發(fā)生后的最近幾周發(fā)生動蕩之后，這種數(shù)據(jù)集偏差尤其令人擔憂。

正如麻省理工學院研究生，2018年大學AI偏見報告的合著者Irene Chen所說：“算法僅與使用的數(shù)據(jù)一樣好，我們的研究表明，更好的數(shù)據(jù)通常可以帶來更大的變化”。她補充說，不是需要更多數(shù)據(jù)來糾正偏差，而是需要提供更具代表性的數(shù)據(jù)。