如今，人工智能（AI）正在幫助我們從數(shù)據(jù)中發(fā)現(xiàn)新見解并增強(qiáng)人類決策能力。例如，我們使用面部識別來登錄手機(jī)，并使用語音理解和意圖分析來獲得幫助。電子商務(wù)零售商與AI共同預(yù)測并向消費(fèi)者推薦新產(chǎn)品。銀行使用對話式AI來減少欺詐并更好地管理客戶體驗(yàn)。

當(dāng)今使用的大多數(shù)AI是狹窄AI。通用AI更類似于人類的智能，可以涵蓋范圍廣泛的決策，情感和判斷力，因此不會很快出現(xiàn)。如今，窄人工智能實(shí)際上在某些特定任務(wù)上非常擅長，但是按照定義，“窄”會帶來一些局限性，使其容易產(chǎn)生偏差。

偏差可能來自不完整的數(shù)據(jù)樣本或不正確的數(shù)據(jù)集?；又幸泊嬖谄姩C隨時間推移的互動會發(fā)生偏斜的學(xué)習(xí)。而且，有時業(yè)務(wù)的突然變化（例如新法律或業(yè)務(wù)規(guī)則）可能會導(dǎo)致偏差。最后，無效的訓(xùn)練算法可能會導(dǎo)致偏差。識別出偏差來自何處有助于緩解問題，并可以確保AI應(yīng)用程序產(chǎn)生預(yù)期的業(yè)務(wù)成果。

數(shù)據(jù)偏差的最明顯原因是用于訓(xùn)練AI系統(tǒng)的數(shù)據(jù)樣本缺乏多樣性。例如，我們定期通過AI算法運(yùn)行飛機(jī)發(fā)動機(jī)的傳感器數(shù)據(jù)，以預(yù)測零件更換并優(yōu)化資產(chǎn)性能。但是，如果AI主要針對從美國飛往歐洲的航班（在寒冷的北半球上空飛行）進(jìn)行了培訓(xùn)，然后再用于撒哈拉以南非洲的航班，則很容易看出數(shù)據(jù)集將落在經(jīng)過訓(xùn)練的模型參數(shù)之外，并產(chǎn)生錯誤的結(jié)果。換句話說，該算法僅與放入其中的數(shù)據(jù)一樣聰明。

現(xiàn)實(shí)情況是很難獲得全面的數(shù)據(jù)來訓(xùn)練AI系統(tǒng)，因此許多系統(tǒng)僅使用容易獲得的數(shù)據(jù)。有時，可能甚至不存在用于訓(xùn)練AI算法所有潛在用例的數(shù)據(jù)。例如，如果僅在歷史上沒有異類工作的人才庫中進(jìn)行培訓(xùn)，用于招聘的AI軟件就難以推薦多樣化的候選人。

偏見的另一大推動力是訓(xùn)練中的偏見，可以通過匆忙而又不完整的訓(xùn)練算法來解決。例如，一個旨在從對話中學(xué)習(xí)并變得更加聰明的AI聊天機(jī)器人可以選擇一種政治上不正確的語言，只要它未經(jīng)培訓(xùn)就可以暴露出來并開始使用它-如Microsoft從Tay那里學(xué)到的。同樣，在刑事司法系統(tǒng)中可能會使用AI也很重要，因?yàn)槲覀兩胁恢繟I算法的培訓(xùn)是否正確完成。