人工智能（AI）將計算范式從基于規(guī)則的編程轉(zhuǎn)變?yōu)榛诮Y(jié)果的方法。它允許流程大規(guī)模運行，減少人為處理錯誤的數(shù)量，并發(fā)明解決問題的新方法。在專家們使用相同的開放動作3000年之后，AlphaGo激發(fā)了圍棋選手嘗試新的策略。隨著采用率的提高，人工智能將使組織能夠解鎖傳統(tǒng)自動化無法解決的“最后一英里”。但是，隨著越來越多的企業(yè)委托AI代表他們做出決策，治理變得至關(guān)重要。

在最近的簡柏特調(diào)查 C-套件和其他高級管理人員，63%的人說，這是重要的或者重要的是要能夠跟蹤啟用AI-機(jī)器的推理路徑，并且這個數(shù)字在公司跳到的受訪者有88%的說是AI的領(lǐng)導(dǎo)者。Genpact還與受監(jiān)管市場的財富500強(qiáng)公司合作，這些客戶認(rèn)為可追溯性已成為他們考慮使用AI之前的一項關(guān)鍵要求。

英國咨詢公司Cambridge Analytica最近對濫用社交媒體數(shù)據(jù)的關(guān)注引起了企業(yè)的警覺，要求加強(qiáng)監(jiān)管。此外，將于5月25日生效的歐盟通用數(shù)據(jù)保護(hù)條例（GDPR），是未來將要解決的數(shù)據(jù)和AI治理的許多新要求之一。如該規(guī)章第22條所述，在其他領(lǐng)域中，“數(shù)據(jù)主體有權(quán)不受純粹基于自動化處理（包括配置文件）的決定的管轄，該處理會對他或她產(chǎn)生法律效力或?qū)λ斐深愃朴绊戇€是她?！?在某人被拒絕提供貸款或工作機(jī)會的情況下，這可能變得至關(guān)重要。同樣，紐約市最近算法決策透明度的立法表明，美國的監(jiān)管審查也在增加。在這種情況下，企業(yè)將很難接受“黑匣子AI”。

一些技術(shù)已經(jīng)足夠成熟，可以提供當(dāng)今的可追溯性。在處理文本或數(shù)字時，企業(yè)可以考慮計算語言學(xué)，在此用戶可以輕松地遵循推理路徑并找出導(dǎo)致機(jī)器做出決定的單詞或數(shù)據(jù)點。例如，如果第三方物流供應(yīng)商同意每英里收取15美分，但發(fā)票顯示每英里收取18美分，則機(jī)器可以使用上下文提取發(fā)票中的價格，即發(fā)票中商定的價格。合同，并指出差異。用戶可以并排查看文檔以確定機(jī)器是否正確。關(guān)鍵是要跟蹤決策的定義屬性來自何處，并以易于可視化的方式展示基礎(chǔ)信息。

實現(xiàn)可追溯性的另一種方法是解釋算法中使用的驅(qū)動程序和推理路徑。Salesforce的Sales Cloud Einstein產(chǎn)品中的潛在顧客評分功能可直接了解其如何確定銷售潛在顧客的分?jǐn)?shù)，因此公司的銷售團(tuán)隊可以了解Einstein機(jī)器如何預(yù)測特定潛在顧客將轉(zhuǎn)化為機(jī)會。

計算語言學(xué)還具有嵌入式推理路徑邏輯，可以為該技術(shù)的最終用戶進(jìn)行外部化。例如，在貸款批準(zhǔn)過程中，系統(tǒng)需要采取多個步驟來處理申請。如果在基于AI的自動貸款申請中拒絕了某個應(yīng)用程序，則貸款員應(yīng)能夠?qū)Q策追溯到發(fā)生拒絕的特定步驟，更重要的是，在此特定步驟中解釋AI的決定。

因此，企業(yè)不僅可以拒絕提供貸款，否則可能會導(dǎo)致不良的客戶體驗并引發(fā)合規(guī)性問題，而企業(yè)可以向消費者明確說明推理的理由，以解釋做出決策的原因。借助可追溯性，如果審核員要求提供文檔，或者客戶提出了疑問，或者出現(xiàn)了另一個潛在問題，則公司可以準(zhǔn)確地知道系統(tǒng)在何處以及如何做出決定，而不必因為決定和推理被鎖定而一頭霧水在一個黑盒子里。