企業(yè)想將人工智能融入自己的事務(wù)，但又害怕駕馭不了。IBM公司日前推出了一種提高人工智能透明度的技術(shù)，使企業(yè)能夠更全面地駕馭人工智能的力量。這種在IBM云端運(yùn)算平臺(tái)上執(zhí)行的軟件服務(wù)，能夠在人工智能進(jìn)行決策時(shí)自動(dòng)檢測(cè)偏差并解釋決策過(guò)程，進(jìn)而幫助各行各業(yè)的組織管理人工智能系統(tǒng)。IBM服務(wù)事業(yè)部也將與企業(yè)合作，幫助他們運(yùn)用這種全新的軟件服務(wù)。此外，IBM研究院將會(huì)向開(kāi)源社群發(fā)布一套人工智能偏差檢測(cè)和緩解工具包，用先進(jìn)的工具和培訓(xùn)促進(jìn)全球協(xié)作，以解決人工智能偏差問(wèn)題。

IBM認(rèn)知解決方案高級(jí)副總裁David Kenny表示，“IBM曾經(jīng)確立了開(kāi)發(fā)新型人工智能技術(shù)的信任和透明度原則?，F(xiàn)在是將這些原則付諸實(shí)現(xiàn)的時(shí)候了。任何可能有缺陷的決策都會(huì)給使用人工智能的企業(yè)帶來(lái)極大的潛在風(fēng)險(xiǎn)，而我們?yōu)槠髽I(yè)提供了加強(qiáng)透明度和控制的方法?！?/p>

這些技術(shù)的發(fā)展也同樣印證IBM研究院的最新研究結(jié)果，該研究顯示，雖然有82%的企業(yè)正在考慮運(yùn)用人工智能，但有60%的企業(yè)擔(dān)心責(zé)任問(wèn)題，63%的企業(yè)缺乏能夠可靠地管理這種技術(shù)的內(nèi)部人才。

提高人工智能決策的可見(jiàn)度

在IBM云端運(yùn)算平臺(tái)上的全新信任和透明度功能，可與各種機(jī)器學(xué)習(xí)框架和人工智能建構(gòu)的環(huán)境模型配合使用，例如Watson，Tensorflow，SparkML，AWS SageMaker和AzureML。也就是說(shuō)，企業(yè)可以將這些新的控制工具用于大部分常見(jiàn)的人工智能框架。還可以對(duì)軟件服務(wù)進(jìn)行編碼，以監(jiān)控任何業(yè)務(wù)工作流程所需的獨(dú)特決策因素，使其能根據(jù)特定的組織用途進(jìn)行客制化。

這種完全自動(dòng)化的軟件服務(wù)能夠解釋決策并在運(yùn)行時(shí)(也就是進(jìn)行決策時(shí))檢測(cè)人工智能模型中的偏差，每當(dāng)潛在的不公結(jié)果出現(xiàn)時(shí)就會(huì)立即發(fā)現(xiàn)。重要的是，它還能自動(dòng)建議應(yīng)添加到模型的數(shù)據(jù)，幫助緩解它檢測(cè)到的任何偏差。

它使用通俗易懂的術(shù)語(yǔ)提供解釋，說(shuō)明是哪些因素的權(quán)重使決策朝某一方向傾斜，決策建議的可信度有多大，以及可信度背后的因素。此外，模型的準(zhǔn)確性、性能和公正性以及人工智能系統(tǒng)譜系的紀(jì)錄可以根據(jù)客戶服務(wù)、法規(guī)或合規(guī)用途，例如GDPR合規(guī)，輕松地追蹤和回顧。

所有這些功能都是透過(guò)可視化操作面板來(lái)存取，讓企業(yè)客戶擁有前所未有的理解、解釋和管理人工智能主導(dǎo)決策的能力，并降低對(duì)專業(yè)人工智能技能的依賴。

使開(kāi)源社群能夠建構(gòu)更公正的人工智能

此外，IBM研究院還將提供開(kāi)源社群 AI Fairness 360工具包，這是一套包括新型算法、程序代碼和教程的資源庫(kù)，它將為學(xué)術(shù)單位、研究者和數(shù)據(jù)科學(xué)家提供在建構(gòu)和部署機(jī)器學(xué)習(xí)模型時(shí)整合偏差檢測(cè)功能的工具和知識(shí)。開(kāi)源社群中的其他資源僅僅著眼于檢查訓(xùn)練數(shù)據(jù)中的偏差，而IBM研究院建立的IBM AI Fairness 360工具包將有助于檢查和緩解人工智能模型中的偏差。IBM研究院借助這一工具包，廣邀全球開(kāi)源社群合作推動(dòng)人工智能的相關(guān)研究，降低解決人工智能偏差的困難度。

研究揭示了人工智能部署主流化的優(yōu)先項(xiàng)目和障礙

IBM最近發(fā)布了IBM研究院2018人工智能報(bào)告，這份對(duì)5,000名企業(yè)高管的調(diào)研結(jié)果顯示，對(duì)于人工智能推動(dòng)商業(yè)價(jià)值和收入成長(zhǎng)的潛力，企業(yè)領(lǐng)導(dǎo)者的看法正在發(fā)生重大變化。

報(bào)告中的重要發(fā)現(xiàn)：

?82%的企業(yè)和93%的高績(jī)效企業(yè)正在考慮推廣人工智能應(yīng)用，重點(diǎn)是增加收入。

?60%的企業(yè)擔(dān)心責(zé)任問(wèn)題，63%的企業(yè)缺乏能夠可靠地管理人工智能技術(shù)的人才。

?首席執(zhí)行官認(rèn)為在IT、信息安全、創(chuàng)新、客戶服務(wù)和風(fēng)險(xiǎn)管理方面采用人工智能可以獲得最大的價(jià)值。

?人工智能的應(yīng)用范圍正在擴(kuò)大，在金融服務(wù)等數(shù)字轉(zhuǎn)型程度較高的行業(yè)很可能會(huì)加速推廣。