隨著AI的使用變得越來越普遍，僅“盡力而為”的數(shù)據(jù)科學家和組織就還不夠。隨著AI倡導者的興起，負責任的AI將成為人們的期望和標準。

近年來，數(shù)據(jù)和人工智能已在眾多行業(yè)中廣泛使用，以告知和塑造從醫(yī)療保健，零售到銀行和保險的戰(zhàn)略和服務(wù)。最近，在追蹤冠狀病毒的斗爭中，AI脫穎而出。

但是，隨著數(shù)字化生成數(shù)據(jù)量的增加，以及由AI支持的自動決策的需求，對于企業(yè)和政府而言，都對AI決策算法背后的推理提出了新的挑戰(zhàn)。

隨著AI將決策遠離那些影響決策的人，決策似乎變得更加殘酷，甚至可能變得粗心。對于組織而言，引用數(shù)據(jù)和算法作為不受歡迎的決策的理由并不少見，當受人尊敬的領(lǐng)導者犯錯時，這可能會引起關(guān)注。

除了可能做出錯誤的決策外，還存在AI偏見的問題。結(jié)果，引入了新法規(guī)來保護消費者權(quán)益并密切關(guān)注AI的發(fā)展。

負責任的AI的支柱

組織現(xiàn)在需要實施強大的AI。為此，他們必須以負責任的AI的三大支柱來加強和制定標準：可解釋性，問責制和道德規(guī)范。有了這些措施，各種類型的組織都可以確信他們正在制定合理的數(shù)字決策。

可解釋性：依賴于AI決策系統(tǒng)的企業(yè)應確保其具有適當?shù)乃惴?gòu)造，該構(gòu)造可捕獲決策變量之間的關(guān)系以得出業(yè)務(wù)決策。通過訪問此數(shù)據(jù)，企業(yè)可以解釋該模型做出決定的原因-例如，將交易標記為欺詐的高風險。然后，人類分析人員可以使用此解釋來進一步調(diào)查該模型的含義和準確性。決定。

問責制：必須正確構(gòu)建機器學習模型，并重點關(guān)注機器學習的局限性和對所使用算法的仔細考慮。技術(shù)必須透明且合規(guī)。模型開發(fā)過程中的周到性可確保決策合理，例如分數(shù)隨著風險的增加而適當?shù)剡m應。

除可解釋的AI之外，還有謙虛AI的概念-確保僅將模型用于與訓練模型相似的數(shù)據(jù)示例。如果不是這種情況，則該模型可能不可信，因此應降級為另一種算法。

倫理：必須以可解釋性和責任制為基礎(chǔ)，對倫理模型進行測試，并消除任何歧視。可解釋的機器學習架構(gòu)允許提取通常隱藏大多數(shù)機器學習模型內(nèi)部工作的非線性關(guān)系。這些非線性關(guān)系需要進行測試，因為它們是基于訓練模型的數(shù)據(jù)學習的，并且這些數(shù)據(jù)通常隱含地充滿了社會偏見。道德模型可確保明確測試和消除偏見和歧視。

強制執(zhí)行負責任的AI的部隊

建立負責任的AI模型需要花費時間和艱巨的工作，而細致的持續(xù)審查對于實施持續(xù)負責的AI至關(guān)重要。審查必須包括監(jiān)管，審計和倡導。

法規(guī)對于設(shè)定使用算法的行為標準和法治非常重要。但是，最終是否滿足法規(guī)要求，要證明與法規(guī)的一致性需要進行審核。

證明符合法規(guī)要求需要一個框架來創(chuàng)建可審核的模型和建模過程。這些審核材料包括模型開發(fā)過程，使用的算法，偏差檢測測試以及使用合理決策和評分的演示。如今，模型開發(fā)過程的審計是隨意進行的。

引入了新的基于區(qū)塊鏈的模型開發(fā)審核系統(tǒng)，以實施和記錄不可變的模型開發(fā)標準，測試方法和結(jié)果。此外，它們被用于記錄整個模型開發(fā)周期中數(shù)據(jù)科學家和管理層批準的詳細貢獻。

展望未來，僅憑數(shù)據(jù)和AI來“盡力而為”是不夠的。隨著AI倡導者的興起以及由于AI系統(tǒng)的錯誤結(jié)果而造成的實際苦難，負責任的AI很快將成為整個乃至全球的期望和標準。

組織必須立即執(zhí)行負責任的AI，并加強和設(shè)定AI的可解釋性，責任制和道德標準，以確保他們在做出數(shù)字決策時表現(xiàn)負責。