飛機可接受的故障率是多少？好吧，這不是零 ……無論我們多么想相信其他方式。有一個數(shù)字，但它是一個很小的數(shù)字。在機器，計算機，人工智能等方面，它們是不完美的。會犯錯誤。推薦不當。人工智能永遠不會完美。這并不意味著它們不提供價值。人們需要了解機器為什么會出錯，并據(jù)此設定自己的信念。這意味著了解AI失敗的三個關鍵領域：隱性偏見，不良數(shù)據(jù)和期望。

第一個挑戰(zhàn)是隱性偏見，即人們對云的思想和行為的無意識感知?？紤]一下，最近關于種族正義和警察暴行的抗議活動以及“ 黑人生活至關重要”的有力信息。《福布斯》（Forbes）文章AI屈膝：法律下的改善平等待遇的行動，很好地說明了隱性偏見如何在歧視中發(fā)揮作用，以及使用AI減少對我們的偏見有多困難（但并非不可能）執(zhí)法和司法系統(tǒng)。人工智能向人學習。如果隱性偏見正在訓練中，則AI將學習該偏見。此外，當AI執(zhí)行工作時，該工作將反映這種偏見……即使該工作是為了社會公益。

以Allegheny家庭篩選工具為例。它旨在預測哪些福利兒童可能會受到養(yǎng)父母虐待的威脅。但是，此解決方案的最初推出面臨一些挑戰(zhàn)。當?shù)氐娜祟惙詹砍姓J該工具可能存在種族和收入偏見。疏忽之類的誘因常常被生活在貧困中的寄養(yǎng)父母與注意力不集中或虐待相聯(lián)系而混淆或誤解。自從學習了這些問題以來，采取了巨大的措施來減少e篩選工具中的隱性偏差。消除困難得多。當談到偏見時，人們如何處理未知的未知數(shù)？如何處理社會環(huán)境？“正確”或“公平”行為是什么意思？如果人們無法識別，定義和解決這些問題，那么他們將如何教機器？這是一個主要的驅動程序，由于隱性偏見，AI將是不完美的。

第二個挑戰(zhàn)是數(shù)據(jù)。數(shù)據(jù)是人工智能的動力。機器通過大量的真實數(shù)據(jù)（即如何制定決策的規(guī)則，而不是決策本身）進行訓練，并從大量大數(shù)據(jù)中進行訓練，以學習數(shù)據(jù)中的模式和關系。如果我們的數(shù)據(jù)不完整或有缺陷，那么人工智能將無法很好地學習。考慮COVID-19。約翰·霍普金斯（John Hopkins），COVID追蹤項目，美國疾病控制中心（CDC）和世界衛(wèi)生組織全部報告不同的數(shù)字。有了這樣的變化，人工智能很難從數(shù)據(jù)中閃現(xiàn)出有意義的模式，更不用說找到那些隱藏的見解了。更具挑戰(zhàn)性的是，不完整或錯誤的數(shù)據(jù)該怎么辦？想象一下，教一個關于醫(yī)療保健的AI，但只提供有關女性健康的數(shù)據(jù)。這阻礙了我們如何在醫(yī)療保健中使用人工智能。

隨之而來的挑戰(zhàn)是人們可能會提供過多的數(shù)據(jù)。這可能無關緊要，毫無意義，甚至會分散注意力?？紤]一下IBM是何時讓Watson閱讀《城市詞典》的，然后它無法區(qū)分何時使用普通語言還是使用語和罵人的單詞。問題變得如此嚴重，以至于IBM必須從Watson的內存中刪除Urban Dictionary。同樣，一個AI系統(tǒng)需要聽大約1億個單詞才能流利使用一種語言。然而，一個人類孩子似乎只需要大約1500萬個單詞就能流利。這意味著我們可能不知道什么數(shù)據(jù)有意義。因此，AI培訓師可能實際上專注于多余的信息，這可能導致AI浪費時間，甚至更糟的是識別錯誤的模式。

第三個挑戰(zhàn)是期望。即使人類犯錯，人們仍然希望機器是完美的。在醫(yī)療保健領域，專家估計誤診率可能高達20%，這意味著五分之一的患者有可能被誤診?？紤]到這些數(shù)據(jù)以及AI輔助診斷的錯誤率可能為十萬分之一，大多數(shù)人仍然喜歡只看人類醫(yī)生。為什么？給出的最常見原因之一是AI的誤診率太高（即使它比人類醫(yī)生低得多）。人們期望AI完美。人們甚至期望人類AI培訓師也很完美，甚至有可能變得更糟。

2016年3月23日，微軟發(fā)布了Twitter機器人Tay（對您的想法）。微軟已經(jīng)對AI進行了培訓，使其達到了一名19歲美國女孩的語言水平和互動能力。在一次盛大的社交實驗中，Tay被釋放到全世界。96，000條推文之后，微軟不得不在發(fā)布后約16小時關閉Tay，因為它轉變了性別歧視，種族主義并促進了納粹主義。遺憾的是，有些人決定教Tay有關煽動性語言的內容，以使其腐化。同時，Microsoft并未考慮教Tay有關不當行為的信息，因此沒有任何理由（或理由）知道諸如不當行為和惡意意圖之類的東西。盛大的社會實驗導致失敗，可悲的是，這可能更多地證明了人類社會，而不是人工智能的局限性。

內隱的偏見，不良的數(shù)據(jù)以及人們的期望表明，人工智能將永遠不會是完美的。這不是許多人希望擁有的神奇的解決方案。人工智能仍然可以為人類做一些非凡的事情，如恢復失去肢體的活動能力或在減少資源的情況下改善糧食生產(chǎn)。人們不應該折衷我們可以得到的價值。我們應該永遠記?。篈I就像我們一樣，是不完美的。