處理塊狀數(shù)據(jù)已經(jīng)傳遞到系統(tǒng)，特別是人工智能。對于等待的消費(fèi)者來說，這個(gè)過程變得更容易，更快，更方便。

盡管它有好處，但算法中的錯(cuò)誤和漏洞是可能的。然后，這些誤判將變成對毫無戒心的人口群體的可能傷害。

人工智能技術(shù)，特別是機(jī)器學(xué)習(xí)（ML），在很大程度上依賴于跟蹤模式和檢測異常活動(dòng)。這種例行公事使它強(qiáng)化了歧視性模式。

雖然模式是無縫的，算法看似完美，但不公平的偏見和歧視可以針對特定的群體。這種現(xiàn)象被稱為代理歧視。

什么是代理歧視

既定的心理測試迫使參與者盡可能快地將術(shù)語分為兩組。在這個(gè)測試中，人們被迫做出不必要的歧視，就像代理歧視中發(fā)生的事情一樣。

制定了反對歧視的政策和法律。有反對工作場所對性別、種族、年齡等歧視的政策。然而，具有諷刺意味的是，現(xiàn)代人工智能的使用使得很難指出歧視性案例。事實(shí)上，它可以是一個(gè)煽動(dòng)者。

代理歧視如何加劇歧視

使用機(jī)器學(xué)習(xí)導(dǎo)致的代理歧視會導(dǎo)致不同的影響。從法律上講，不同的影響是就業(yè)或住房中對特定群體造成負(fù)面影響的做法。

一個(gè)常見的工作場所例子是雇主積極避免雇用有孩子的女性申請人。古老的信念指出，母親不能成為好工人，因?yàn)樗齻儾荒軐Ｗ⒂谧约旱墓ぷ鳌Ｈ欢?，員工贏得了幾起具有里程碑意義的勞動(dòng)法案件，因?yàn)樗蛔C明是一種明顯的歧視形式。

當(dāng)進(jìn)入人工智能和代理歧視的背景下時(shí)，算法處理的所有數(shù)據(jù)也是自動(dòng)化的。如果數(shù)據(jù)是通過網(wǎng)絡(luò)抓取收集的，則不再需要人為干預(yù)。這意味著該算法不會主動(dòng)搜索該“母親申請人”。

但是，由于母親申請人可能呈現(xiàn)出與設(shè)置為正常組或基本組不同的特征，因此機(jī)器仍會指出母親申請人是異常值。

通過這種方式，代理歧視成為不同影響的高度特定的子集，其中看似無害的算法對特定群體造成傷害。幾年前，代理歧視被認(rèn)為是故意歧視的一個(gè)子集。

但是，鑒于人工智能的性質(zhì)，得出的結(jié)論是，它根本不是故意的。不幸的是，它是先進(jìn)技術(shù)的副產(chǎn)品。

利用代理歧視

代理歧視可能是無意的，但用戶會找到利用此過程來發(fā)揮自己的優(yōu)勢的方法。不幸的是，故意使用代理歧視是為了使歧視性決定和選擇看起來是理性的和純粹的機(jī)械的。

代理歧視被一些用戶用作一種解決方法，以消除與他們的選擇相關(guān)的歧視氣氛。這就像安全網(wǎng)的答案，當(dāng)他們的決定背后的原因受到質(zhì)疑時(shí)。

保險(xiǎn)業(yè)的代理歧視

人工智能被證明是保險(xiǎn)業(yè)的重要工具。在處理批量數(shù)據(jù)，欺詐檢測，費(fèi)率設(shè)置和定價(jià)等方面時(shí)，它非常方便。另一方面，隨之而來的風(fēng)險(xiǎn)也隨之而來，代理歧視就是其中之一。

如前所述，人工智能不能故意區(qū)分信息鏈。它意味著沒有任何類型的偏見。但是，它對模式的高度關(guān)注使其能夠捕獲通常與特定組關(guān)聯(lián)的代理數(shù)據(jù)。它可以是任何類型的數(shù)據(jù)。

任何類型的客戶端活動(dòng)都可以被算法從上下文中移除，并受到代理歧視。這種行為對公司來說可能是麻煩的。那些遭受這種前所未有的歧視的人可以提起訴訟并要求賠償損失。

大多數(shù)公司將采取額外措施來防止這種情況發(fā)生。但是，有些人會利用這一點(diǎn)來發(fā)揮自己的優(yōu)勢。因?yàn)樗麄冎来砥缫暤陌l(fā)生，所以他們會心甘情愿地根據(jù)自己的喜好改變算法的元素。

當(dāng)他們準(zhǔn)確地改變元素時(shí)，結(jié)果將符合他們的需求，即使它是高度歧視性的。對結(jié)果的查詢將是不可避免的，但他們可以簡單地將其作為算法的產(chǎn)物傳遞出去，并且它們與算法無關(guān)。歸根結(jié)底，他們有理由支持歧視性和有害的決定。

警惕其他風(fēng)險(xiǎn)

除了代理歧視的危險(xiǎn)之外，用戶還必須注意與AI技術(shù)相關(guān)的其他危險(xiǎn)。安全總比后悔好。

失業(yè)

在考慮未來的創(chuàng)新時(shí)，大多數(shù)人將它們等同于機(jī)器人和其他類型的自動(dòng)化。這些創(chuàng)新現(xiàn)在才開始。各行各業(yè)更喜歡在其產(chǎn)品的開發(fā)和制造階段使用機(jī)器人。

以汽車行業(yè)為例。機(jī)器人手臂不是人，而是存在于汽車的制造過程中。自動(dòng)駕駛汽車現(xiàn)在是可能的，并且可以在商業(yè)上分銷。完全自動(dòng)化流程的直接風(fēng)險(xiǎn)是失去由熟練員工工作的工作。

數(shù)據(jù)安全風(fēng)險(xiǎn)

由于幾乎所有數(shù)據(jù)現(xiàn)在都存儲在云中，因此當(dāng)AI被不利地使用時(shí)，數(shù)字安全也可能處于危險(xiǎn)之中。黑客攻擊和網(wǎng)絡(luò)釣魚是數(shù)字安全方面最突出的與AI相關(guān)的攻擊。與利用存儲在云中的個(gè)人數(shù)據(jù)相關(guān)的危險(xiǎn)也迫在眉睫。

結(jié)論

AI技術(shù)的使用是一把雙刃劍。雖然有明顯的好處，但也存在緊迫的擔(dān)憂和風(fēng)險(xiǎn)，例如代理歧視。代理歧視是不可避免的。曾經(jīng)的中立聲明或主張可能會對特定人群造成前所未有的傷害。目前還沒有已知的應(yīng)對這種風(fēng)險(xiǎn)的對策。在處理這項(xiàng)技術(shù)時(shí)，最好始終保持警惕。

審核編輯：郭婷