人工智能已經(jīng)成為每個人生活中不可或缺的一部分。 從YouTube建議之類的簡單任務到諸如生成可治愈疾病的藥物之類的復雜的救生任務，它已經(jīng)無處不在。 它以比我們意識到的更多的方式影響著我們的生活。

但是，人工智能公平嗎？ 不，絕對不是。

定義一個公平的AI很難。 這是我能想到的最好的解釋。 如果輸出獨立于已經(jīng)受到社會歧視影響的特定任務的敏感參數(shù)（例如性別，種族，性別，宗教信仰，殘疾等），則給定的AI模型是公平的。

在此文章中，我將撰寫有關AI偏差，AI偏差的現(xiàn)實示例以及解決方法的文章。

問題

AI偏差是由于用于訓練模型的數(shù)據(jù)固有的偏見引起的，從而導致社會歧視。 這導致缺乏平等機會。

例如，假設我的任務是創(chuàng)建一個模型，以位置為參數(shù)來計算一個人的信用評分。 某些種族集中在某些地方。 這將使我的模型在種族上偏向那些種族群體，從而在獲得信用卡和銀行貸款時影響他們。

偏愛的AI模型加劇了當前的社會歧視，并為壓迫鋪平了道路。

現(xiàn)實生活中AI偏見的例子

這是AI偏見的一些現(xiàn)實例子：

COMPAS：COMPAS（替代性制裁的更正罪犯管理分析）是美國法院用來判斷被告（被控犯罪的人）成為累犯（重犯先前犯罪的行為）的軟件。 由于數(shù)據(jù)的嚴重偏差，該模型預測的黑人違犯累犯率是白人的兩倍。

亞馬遜的招聘：2014年，亞馬遜開發(fā)了一個AI招聘系統(tǒng)，以簡化其招聘流程。 由于用于訓練模型的數(shù)據(jù)來自過去10年，由于技術行業(yè)中男性占主導地位，因此大多數(shù)被選為男性的申請人被發(fā)現(xiàn)具有歧視性。 亞馬遜在2018年取消了該系統(tǒng)。

美國醫(yī)療保?。好绹t(yī)療保健系統(tǒng)使用的AI模型為黑人分配的相同疾病發(fā)病率低于白人。 這是因為該模型針對成本進行了優(yōu)化，并且由于人們認為黑人支付能力較差，因此該模型將其健康風險等級低于白人。 這導致黑人的醫(yī)療保健標準降低。

Twitter圖像裁剪：2020年9月，Twitter用戶發(fā)現(xiàn)圖像裁剪算法更喜歡白臉而不是黑臉。 即，當將寬高比與預覽窗口不同的圖像發(fā)布到Twitter時，該算法會裁剪圖像的一部分，并僅顯示圖像的特定部分作為預覽。 這種AI模型經(jīng)常在預覽窗口中以白色和黑色面孔顯示白色面孔。

Facebook的廣告算法：2019年，F(xiàn)acebook允許廣告商根據(jù)種族，性別和宗教信仰來定位人群。 這導致護理和秘書等工作針對女性，而看門人和出租車司機等工作針對男性，尤其是有色男人。 該模型還了解到，向白人展示房地產(chǎn)廣告時，其點擊率更高，從而導致向少數(shù)群體提供房地產(chǎn)廣告的情況有所減少。

這些只是AI偏見的一些常見示例。 無論是否有開發(fā)人員的知識，都有許多不公平的AI做法實例。

那么如何解決？

邁向公平AI的第一步就是承認這個問題。 人工智能是不完美的。 數(shù)據(jù)不完美。 我們的算法不完善。 我們的技術不完善。 假裝沒有問題，就不可能找到解決方案。

其次，問問自己這個解決方案是否需要AI。

不要害怕在沒有機器學習的情況下發(fā)布產(chǎn)品-Google

存在一些不依賴于數(shù)據(jù)的問題。 諸如發(fā)現(xiàn)被告再犯的可能性之類的任務更多地取決于情感而不是數(shù)據(jù)。

第三，遵循負責任的AI實踐。 我在下面添加了Google負責任的AI實踐指南中的要點。

負責任的AI實踐：

使用以人為本的設計方法：內(nèi)置適當披露的設計模型，并在部署之前合并測試人員的反饋。

確定多個度量標準以評估培訓和監(jiān)視：使用適合任務的不同度量標準，以了解不同錯誤和經(jīng)驗之間的權衡。 這些指標可以是來自消費者的反饋，誤報率和誤報率等。

如有可能，請檢查您的原始數(shù)據(jù)：AI模型反映了用于訓練模型的數(shù)據(jù)。 如果數(shù)據(jù)有問題，則模型也將有問題。 嘗試獲得平衡的數(shù)據(jù)。

了解模型的局限性：經(jīng)過訓練可檢測相關性的模型不一定有助于建立因果關系。 例如，一個模型可能會得知購買籃球鞋的人通常平均會更高，但這并不意味著購買籃球鞋的用戶會因此變高。

測試：進行嚴格的單元測試以確定模型中的故障。

部署后繼續(xù)監(jiān)視和更新模型：考慮用戶反饋，并在部署后根據(jù)此模型定期更新模型。

設計一個具有公平性和包容性具體目標的模型：與來自倫理學和社會研究領域的專家合作，以理解和解釋各種觀點。 嘗試使您的模型盡可能公平。

使用代表性的數(shù)據(jù)集來訓練和測試模型：嘗試評估數(shù)據(jù)的公平性。 即，尋找特征和標簽之間的偏見或歧視性關聯(lián)。

檢查是否存在不公正的偏見：從不同背景的測試人員那里獲得單元測試輸入。 這可以幫助確定該模型可能影響的人群。

分析效果：考慮不同的指標。 一個指標的改進可能會損害另一個指標的性能。

開發(fā)公平AI的工具

FATE：Microsoft提供的AI中的公平性，問責制，透明度和道德規(guī)范（FATE），由Microsoft提供評估可視化儀表板和緩解偏差算法的工具。 它主要用于比較系統(tǒng)的公平性和性能之間的權衡。

AI Fairness 360：AI Fairness 360是IBM提供的一個開源工具包，可幫助您檢查，報告和減輕機器學習模型中的歧視和偏見。

ML Fairness Gym：ML Fairness Gym是Google提供的一種工具，用于探索機器學習系統(tǒng)對AI偏見的長期影響。

結論

在過去的幾年中，公司和政府已經(jīng)開始認真對待AI偏見。 許多公司已經(jīng)開發(fā)了評估AI公平性的工具，并且正在竭盡全力對抗AI偏見。 盡管AI具有巨大的潛力，但對我們而言，現(xiàn)在要比以往任何時候都更加重要，要牢記AI系統(tǒng)的潛在歧視性危險并幫助開發(fā)公平的AI模型。
責編AJX