了解如何在訓(xùn)練您的 AI 驅(qū)動系統(tǒng)時避免數(shù)據(jù)集、關(guān)聯(lián)、自動化和其他類型的偏見。

科技行業(yè)對人工智能的使用越來越興奮，因為它開辟了新的引人入勝的體驗，并為企業(yè)家和最終用戶帶來了前所未有的效率。但是，如果您決定加入 AI 的競爭，請準(zhǔn)備好順其自然，因為除了帶來紅利之外，人工智能也往往會掀起波瀾——偏見是最煩人的失誤。

要成功構(gòu)建公正的 AI 解決方案，您應(yīng)該了解何時以及為何會出現(xiàn)偏見。在此功能中，我們將充實 AI 偏見的五個核心類別，對其進(jìn)行分析將幫助您準(zhǔn)備最佳數(shù)據(jù)集以訓(xùn)練您的潛在系統(tǒng)。

數(shù)據(jù)集偏差

傳統(tǒng)觀念認(rèn)為，用于訓(xùn)練 AI 的數(shù)據(jù)越多，交付的解決方案就越公正。但實際上，重要的是多樣性，而不是數(shù)量。算法本身可能沒有偏差，如果您的數(shù)據(jù)過于同質(zhì)，它可能會導(dǎo)致 AI 誤入歧途：您的系統(tǒng)將從有缺陷的示例集中學(xué)習(xí)并輸出有偏差的結(jié)果。

也就是說，沒有提供不同種族和膚色的多樣化數(shù)據(jù)的計算機(jī)視覺解決方案可能無法識別非裔美國人或亞洲人，從而導(dǎo)致無數(shù)客戶不滿意。

這正是尼康的 Coolpix S630 所發(fā)生的事情。每次數(shù)碼相機(jī)拍下微笑的亞洲用戶時，都會彈出一條屏幕消息，詢問“有人眨眼了嗎？” 只有當(dāng)人們不自然地睜大眼睛擺姿勢時，通知才會停止出現(xiàn)。這種情況導(dǎo)致客戶以推特帖子的形式提出投訴，并進(jìn)一步負(fù)面媒體報道。

如果您不想重復(fù)尼康的故事并被指責(zé)創(chuàng)建“種族主義”面部識別系統(tǒng)，請使用大規(guī)模、多樣化的數(shù)據(jù)集來訓(xùn)練您的算法。

關(guān)聯(lián)偏差

您應(yīng)該注意的另一種偏差是關(guān)聯(lián)偏差，當(dāng)用于訓(xùn)練算法的數(shù)據(jù)被關(guān)于性別、種族等的刻板印象強化時，可能會出現(xiàn)關(guān)聯(lián)偏差。

也就是說，用于預(yù)測犯罪的人工智能軟件可能會導(dǎo)致不公平地針對少數(shù)族裔高度集中的社區(qū)。問題在于該系統(tǒng)更多地考慮了警方以前的記錄，而不是該地區(qū)的實際犯罪率。考慮到警察傾向于在特定社區(qū)巡邏并專注于某些種族群體，他們的記錄可能會過度代表這些群體和社區(qū)。

數(shù)據(jù)輸入的偏差也可能是社區(qū)驅(qū)動的，因為警察數(shù)據(jù)庫中的許多犯罪都是由公民報告的。

關(guān)聯(lián)偏見的另一個例子是谷歌在 2015 年對“CEO”一詞的搜索結(jié)果。根據(jù) The Verge的數(shù)據(jù)，結(jié)果中顯示的圖像中只有 11% 描繪了女性——相比之下，真正的 27% 的女性 CEO美國。

為避免您的 AI 被有偏見的關(guān)聯(lián)驅(qū)動，請為其提供非同質(zhì)數(shù)據(jù)，并利用領(lǐng)域?qū)＜谊P(guān)于歷史不平等以及文化和社會關(guān)注領(lǐng)域的知識。

自動化偏差

人工智能的另一個問題是它可能會做出自動決策，推翻人類的社會、文化和其他考慮。這通常發(fā)生在自動輔助工具上，例如進(jìn)行無關(guān)的自動更正的拼寫檢查程序、傾向于男性化的機(jī)器翻譯或“白色”表情符號自動提示。

自動化偏差 (AB) 的另一個例子是自動化電子處方的臨床決策支持 (CDS) 系統(tǒng)，即定義藥物-藥物相互作用并排除不良事件。當(dāng)臨床醫(yī)生過度依賴 CDS，降低數(shù)據(jù)收集和分析的警惕性時，就會出現(xiàn)問題。

正如NCBI 進(jìn)行的一項研究指出的那樣，“AB 遺漏錯誤，用戶沒有注意到問題，因為他們沒有收到 CDS 的警告，而傭金錯誤，用戶會遵守不正確的建議?！?/p>

AB 也經(jīng)常出現(xiàn)在高科技駕駛艙的決策支持工具中，用于計算節(jié)油路線并診斷系統(tǒng)故障和異常。盡管這些自動輔助設(shè)備旨在提高飛行員的表現(xiàn)，但一些事后分析揭示了在航空中使用此類先進(jìn)系統(tǒng)的問題，特別是模式誤解和錯誤、飛行員對輔助設(shè)備在做什么的困惑，以及難以跟蹤飛行表現(xiàn)。決策支持工具。

最重要的是，據(jù)報道，自動提示降低了飛行員以認(rèn)知、復(fù)雜的方式尋求額外診斷信息和處理可用數(shù)據(jù)的可能性。

為避免可能出現(xiàn)的錯誤和伴隨的不良事件，人工智能專家應(yīng)擴(kuò)大用于其自動化解決方案的信息抽樣范圍，決策者應(yīng)顯著減少此類工具的濫用。

交互偏差

一些 AI 系統(tǒng)通過與用戶的交互進(jìn)行批量數(shù)據(jù)訓(xùn)練。如果推動這種互動的用戶有偏見，那么請確保您的解決方案也會如此。

算法如何偏離軌道的一個生動例子是微軟的 Tay，這是一個 Twitter 聊天機(jī)器人，旨在通過“隨意和有趣的對話”與人們互動。當(dāng)用戶開始發(fā)表帶有厭惡女性、種族主義和唐納德特朗普主義言論的攻擊性推文時，事情就出了問題，這讓機(jī)器人鸚鵡向他們學(xué)習(xí)并以類似的方式做出回應(yīng)。

結(jié)果，在不到 24 小時內(nèi)，Tay 從“人類超級酷”變成了徹頭徹尾的反猶太主義：

Facebook 是另一家定期未能保護(hù)其人工智能免受毒性影響的科技巨頭。今年春天，社交網(wǎng)絡(luò)對短語“video of”給出了明確的搜索預(yù)測。幾個月后，該公司允許用戶使用“猶太人仇恨者”和“希特勒沒有做錯什么”等搜索詞組阻礙其支持人工智能的廣告平臺，隨后為“學(xué)習(xí)”和“職位”類別提供有偏見的自動建議。

如果您的算法的構(gòu)建方式與上述算法相同，那么您將無法幸免于慘敗。避免在您的臉上留下雞蛋并解決交互偏見的一種方法是及時測試您的系統(tǒng)。

確認(rèn)偏差

與交互偏差一樣，確認(rèn)偏差也與用戶活動交織在一起。問題在于，這種扭曲的 AI 算法會根據(jù)其他人的選擇（閱讀、喜歡、點擊、評論等）提供內(nèi)容，并排除做出不太受歡迎的選擇的用戶的結(jié)果。這導(dǎo)致過于簡單的個性化，缺乏多樣化的想法或替代方案。

也就是說，F(xiàn)acebook 的新聞提要在此原則下工作，極大地考慮了您的社交朋友的喜歡和分享。反過來，雖然信息流是個性化的，但你會發(fā)現(xiàn)自己置身于可能與你自己的信念相沖突的“偏見泡沫”中，或者“隱藏”一系列對立的觀點。

LinkedIn 是另一個社交媒體平臺，它發(fā)現(xiàn)向其成員提供由他們的聯(lián)系人共享、喜歡或評論的更新更相關(guān)——而不是其他方式。

考慮到這一點，在構(gòu)建您自己的 AI 系統(tǒng)時，請確保它能夠隨著您的用戶及其偏好隨時間的變化而動態(tài)發(fā)展。

結(jié)論

人工智能偏見已經(jīng)成為一個經(jīng)常被講述的故事。但正如我們發(fā)現(xiàn)的那樣，人工智能算法的本質(zhì)可能并沒有偏見，而正是他們所學(xué)的數(shù)據(jù)導(dǎo)致了令人尷尬的、令人反感的結(jié)果。但是，當(dāng)您從一開始就認(rèn)識到并理解數(shù)據(jù)集中可能存在的偏見時，就可以更輕松地針對有偏見的刻板印象關(guān)聯(lián)測試系統(tǒng)并創(chuàng)造更具包容性的體驗，同時平等地為每個人服務(wù)。

審核編輯 黃昊宇