人工智能（AI）的例子無處不在。我們對于 AI 的使用可能超出想象，并且在許多方面將這種使用視為理所當(dāng)然。智能手機(jī)助手就是一個很好的例子，盡管我們可能并不認(rèn)為這與 AI 有關(guān)。許多場景中，我們已經(jīng)習(xí)慣于與 Siri 或 Google Assistant 的互動。面部識別也已成為新一代智能手機(jī)的標(biāo)準(zhǔn)解鎖功能。

機(jī)器學(xué)習(xí)屬于 AI 的一個子集，原理是通過訓(xùn)練基于計(jì)算機(jī)的神經(jīng)網(wǎng)絡(luò)模型來識別給定的模型或聲音。在神經(jīng)網(wǎng)絡(luò)完成訓(xùn)練后，就可以推理出結(jié)果。例如，如果我們用數(shù)百張狗和貓的圖像訓(xùn)練神經(jīng)網(wǎng)絡(luò)，那么它應(yīng)該能夠正確地識別圖片中是狗還是貓。網(wǎng)絡(luò)模型會確定答案并指示預(yù)測的類別概率。

隨著基于機(jī)器學(xué)習(xí)的應(yīng)用越來越深入日常生活，系統(tǒng)開發(fā)人員已經(jīng)逐漸意識到神經(jīng)網(wǎng)絡(luò)當(dāng)前的運(yùn)行方式不一定正確。讓我們回到上面的例子，如果我們向神經(jīng)網(wǎng)絡(luò)展示一匹馬的圖片，那么僅經(jīng)過貓狗推理訓(xùn)練的神經(jīng)網(wǎng)絡(luò)不得不在已訓(xùn)練的類別中選擇一個。更令人擔(dān)憂的是，神經(jīng)網(wǎng)絡(luò)模型給出錯誤預(yù)測的概率很高，有時用戶甚至都不會注意到，模型就已經(jīng)無聲無息地失敗了。

然而，人類應(yīng)對類似情況的方法大不相同，我們會使用更合理的決策方法。我們希望神經(jīng)網(wǎng)絡(luò)誠實(shí)地回答說它不知道答案，或者從未見過馬的圖像。這看似簡單的例子說明神經(jīng)網(wǎng)絡(luò)仍然存在缺陷，難以在充滿突發(fā)情況和不確定性的人類世界中運(yùn)作。然而，現(xiàn)實(shí)情況是，即使在某些情況下會存在這些問題，許多工業(yè)和汽車系統(tǒng)仍在繼續(xù)開發(fā)神經(jīng)網(wǎng)絡(luò)。

恩智浦多年來投資構(gòu)建 AI 功能，并一直在關(guān)注神經(jīng)網(wǎng)絡(luò)模型的上述缺陷。相較于智能手機(jī)助手推斷語音的錯誤，機(jī)器學(xué)習(xí)在工業(yè)或醫(yī)療保健環(huán)境中出現(xiàn)錯誤的危險(xiǎn)性要大得多。因此，我們正在為客戶提供先進(jìn)的機(jī)器學(xué)習(xí)解決方案，并且正持續(xù)研究一種名為“可解釋的 AI”（xAI）的方法。xAI 通過添加更合理的、類似于人的決策方法和額外的確定性維度，擴(kuò)展了機(jī)器學(xué)習(xí)的推理和計(jì)算概率能力。xAI 將 AI 的所有優(yōu)勢與推理機(jī)制相結(jié)合，使其更接近人類的反應(yīng)方式。

假設(shè)您是自動駕駛汽車的乘客，如果車輛緩慢地行駛，您自然會想知道為什么車輛要如此小心。如果駕駛員是人類，您可能會直接詢問駕駛員為什么汽車行駛速度如此之慢。駕駛員會解釋說，下大雨時能見度很差，他們不確定前面會有什么危險(xiǎn)。這一解釋是基于不確定性做出的。xAI 的決策也會遵循類似的行為模式來表達(dá)模型推理的不確定性存在于哪些方面。

恩智浦已經(jīng)在研究如何將 xAI 功能整合到我們?yōu)槠?、工業(yè)和醫(yī)療保健系統(tǒng)開發(fā)的機(jī)器學(xué)習(xí)解決方案中。

鑒于史無前例的全球新冠肺炎（COVID-19）大流行，xAI 研究團(tuán)隊(duì)認(rèn)為，恩智浦 xAI 可能有助于實(shí)現(xiàn)對患者疾病的快速檢測。雖然現(xiàn)在研究尚處于初期，但是已有的可行性證據(jù)讓我們深受鼓舞。另外，我們與一些技術(shù)領(lǐng)先的醫(yī)院建立了互動，積極了解 xAI 技術(shù)對全球面臨的醫(yī)療保健挑戰(zhàn)有何幫助。

除了規(guī)定的 PCR 測試和診斷方案以外，CT 放射和 X 射線影像的使用提供了快速的替代檢測功能。通過適當(dāng)培訓(xùn)的 xAI 模型來處理 CT 和 X 射線影像，就能區(qū)分未感染病例和感染病例。xAI 能夠提供實(shí)時推理可信度和可解釋的洞察，以幫助臨床人員確定下一步治療方案。

xAI 研究團(tuán)隊(duì)相信他們的推理模型已經(jīng)趨于成熟，目前正在與歐洲和美洲的醫(yī)學(xué)和 AI 專家進(jìn)行討論。但是，為了進(jìn)一步推動研究，我們必須訪問更大的匿名數(shù)據(jù)集，積極尋求新冠肺炎研究人員和潛在合作伙伴的反饋，共同合作以改進(jìn)這種檢測技術(shù)。如果您想與我們合作使用 xAI 進(jìn)行新冠肺炎檢測，請聯(lián)系我們的研究團(tuán)隊(duì)。

xAI 使我們能夠在涉及不確定性的情況下，做出更接近人類的反應(yīng)。它提高了基于概率的決策分類的確定性和可行度。恩智浦在面向汽車、工業(yè)和醫(yī)療保健應(yīng)用的關(guān)鍵安全系統(tǒng)中發(fā)現(xiàn)了 xAI 的機(jī)遇。

作者：Lars Reger, 恩智浦資深副總裁兼首席技術(shù)官

編輯：hfy