人工智能（AI）將計(jì)算范式從基于規(guī)則的編程轉(zhuǎn)變?yōu)榛诮Y(jié)果的方法。它允許流程大規(guī)模運(yùn)行，減少人為處理錯(cuò)誤的數(shù)量，并發(fā)明解決問(wèn)題的新方法。在專家們使用相同的開放動(dòng)作3000年之后，AlphaGo激發(fā)了圍棋選手嘗試新的策略。隨著采用率的提高，人工智能將使組織能夠解鎖傳統(tǒng)自動(dòng)化無(wú)法解決的“最后一英里”。但是，隨著越來(lái)越多的企業(yè)委托AI代表他們做出決策，治理變得至關(guān)重要。

在最近的簡(jiǎn)柏特調(diào)查 C-套件和其他高級(jí)管理人員，63%的人說(shuō)，這是重要的或者重要的是要能夠跟蹤啟用AI-機(jī)器的推理路徑，并且這個(gè)數(shù)字在公司跳到的受訪者有88%的說(shuō)是AI的領(lǐng)導(dǎo)者。Genpact還與受監(jiān)管市場(chǎng)的財(cái)富500強(qiáng)公司合作，這些客戶認(rèn)為可追溯性已成為他們考慮使用AI之前的一項(xiàng)關(guān)鍵要求。

英國(guó)咨詢公司Cambridge Analytica最近對(duì)濫用社交媒體數(shù)據(jù)的關(guān)注引起了企業(yè)的警覺，要求加強(qiáng)監(jiān)管。此外，將于5月25日生效的歐盟通用數(shù)據(jù)保護(hù)條例（GDPR），是未來(lái)將要解決的數(shù)據(jù)和AI治理的許多新要求之一。如該規(guī)章第22條所述，在其他領(lǐng)域中，“數(shù)據(jù)主體有權(quán)不受純粹基于自動(dòng)化處理（包括配置文件）的決定的管轄，該處理會(huì)對(duì)他或她產(chǎn)生法律效力或?qū)λ斐深愃朴绊戇€是她。” 在某人被拒絕提供貸款或工作機(jī)會(huì)的情況下，這可能變得至關(guān)重要。同樣，紐約市最近算法決策透明度的立法表明，美國(guó)的監(jiān)管審查也在增加。在這種情況下，企業(yè)將很難接受“黑匣子AI”。

一些技術(shù)已經(jīng)足夠成熟，可以提供當(dāng)今的可追溯性。在處理文本或數(shù)字時(shí)，企業(yè)可以考慮計(jì)算語(yǔ)言學(xué)，在此用戶可以輕松地遵循推理路徑并找出導(dǎo)致機(jī)器做出決定的單詞或數(shù)據(jù)點(diǎn)。例如，如果第三方物流供應(yīng)商同意每英里收取15美分，但發(fā)票顯示每英里收取18美分，則機(jī)器可以使用上下文提取發(fā)票中的價(jià)格，即發(fā)票中商定的價(jià)格。合同，并指出差異。用戶可以并排查看文檔以確定機(jī)器是否正確。關(guān)鍵是要跟蹤決策的定義屬性來(lái)自何處，并以易于可視化的方式展示基礎(chǔ)信息。

實(shí)現(xiàn)可追溯性的另一種方法是解釋算法中使用的驅(qū)動(dòng)程序和推理路徑。Salesforce的Sales Cloud Einstein產(chǎn)品中的潛在顧客評(píng)分功能可直接了解其如何確定銷售潛在顧客的分?jǐn)?shù)，因此公司的銷售團(tuán)隊(duì)可以了解Einstein機(jī)器如何預(yù)測(cè)特定潛在顧客將轉(zhuǎn)化為機(jī)會(huì)。

計(jì)算語(yǔ)言學(xué)還具有嵌入式推理路徑邏輯，可以為該技術(shù)的最終用戶進(jìn)行外部化。例如，在貸款批準(zhǔn)過(guò)程中，系統(tǒng)需要采取多個(gè)步驟來(lái)處理申請(qǐng)。如果在基于AI的自動(dòng)貸款申請(qǐng)中拒絕了某個(gè)應(yīng)用程序，則貸款員應(yīng)能夠?qū)Q策追溯到發(fā)生拒絕的特定步驟，更重要的是，在此特定步驟中解釋AI的決定。

因此，企業(yè)不僅可以拒絕提供貸款，否則可能會(huì)導(dǎo)致不良的客戶體驗(yàn)并引發(fā)合規(guī)性問(wèn)題，而企業(yè)可以向消費(fèi)者明確說(shuō)明推理的理由，以解釋做出決策的原因。借助可追溯性，如果審核員要求提供文檔，或者客戶提出了疑問(wèn)，或者出現(xiàn)了另一個(gè)潛在問(wèn)題，則公司可以準(zhǔn)確地知道系統(tǒng)在何處以及如何做出決定，而不必因?yàn)闆Q定和推理被鎖定而一頭霧水在一個(gè)黑盒子里。