微軟研究院基于前人對搭建高效人工智能交互系統(tǒng)等相關(guān)問題的研究成果，整合成一份《人工智能交互指南》。該指南共分為四個板塊，規(guī)定了交互初始階段、用戶與系統(tǒng)交互過程中、系統(tǒng)出錯情況下以及隨著時間推移，人工智能系統(tǒng)分別應該如何表現(xiàn)。

編者按：隨著人工智能技術(shù)的發(fā)展，越來越多的AI技術(shù)被應用于各類產(chǎn)品和服務中，這也為AI設計師帶來了許多挑戰(zhàn)。微軟研究院的研究人員基于前人對搭建高效人工智能交互系統(tǒng)等相關(guān)問題的研究成果，整合成一份《人工智能交互指南》。該指南共分為四個板塊，規(guī)定了交互初始階段、用戶與系統(tǒng)交互過程中、系統(tǒng)出錯情況下以及隨著時間推移，人工智能系統(tǒng)分別應該如何表現(xiàn)。

這份指南不僅為AI設計師提供了具體、可操作的建議，還旨在推動用戶體驗和工程開發(fā)從業(yè)者就設計決策的相關(guān)問題展開討論，推動這一領(lǐng)域研究的進步。

AI的可用性和準確性日益提升，激發(fā)了面向用戶的主流應用和服務采用AI技術(shù)的熱潮，伴隨著各種人工智能服務產(chǎn)品到來的，還有對以人為本設計的最佳實踐方法和實踐指南的挑戰(zhàn)和質(zhì)疑。為了滿足這方面的需求，由微軟研究人員組成的專門團隊對一系列人工智能交互指南進行了整合與考證。對于面對的各種復雜局面，AI設計師急需一份最佳實踐指引，而上述研究正是朝著這個方向邁出的重要一步。

為了整合包括預測、識別和自然語言理解等在內(nèi)的人工智能服務，AI設計師需要思考許多新的問題，例如，交互設計人員必須解決人工智能系統(tǒng)推理失敗與成功的幾率問題，機器學習帶來的系統(tǒng)行為改變問題，以及AI功能的可理解性和可控性問題。

當前AI設計本身存在多變性，而當用戶無法有效理解或控制人工智能系統(tǒng)時（例如，半自動車輛事故），就會出現(xiàn)有關(guān)意外事件的大肆報道。這些都凸顯了提供更直觀、更有效的AI用戶體驗的重要意義。有關(guān)設計以人為本的人工智能系統(tǒng)的討論從未間斷，AI設計師也迫切希望得到可靠的相關(guān)設計指南。

在過去20年間，科學家和工程師提出了不少有關(guān)AI系統(tǒng)有效交互設計的指南和建議。內(nèi)容涵蓋用戶預期管理、自主程度調(diào)節(jié)、歧義解決，以及幫助人們認識隨著系統(tǒng)對用戶的了解不斷加深而可能發(fā)生的變化。不幸的是，這些設計建議多分散在不同的出版物中，而且很少作為指南明確提出。微軟研究團隊收集了150余份設計建議，對它們加以提煉和驗證，最終整合成一份統(tǒng)一的指南，讓AI設計人員都能夠以現(xiàn)有知識為基礎(chǔ)，不斷向前發(fā)展。

“此前并沒有一套針對人工智能直觀交互系統(tǒng)的統(tǒng)一指南，而我們正著手創(chuàng)建這樣一套指南，并對其加以驗證，”負責《人工智能交互指南》開發(fā)項目的研究員Saleema Amershi說。

《人工智能交互指南》（及其開發(fā)和驗證流程）將在蘇格蘭格拉斯哥舉行的2019年CHI大會上發(fā)布。團隊成員Saleema Amershi、Dan Weld、Mihaela Vorvoreanu、Adam Fourney、Besmira Nushi、Penny Collisson、Jina Suh、Shamsi Iqbal、Paul Bennett、Kori Inkpen、Jaime Teevan、Ruth Kikin-Gil和Eric Horvitz對20多年來學術(shù)界和工業(yè)界在人工智能設計方面的認知和思考進行了整合，使之成為一套精煉而又具有普適性的人工智能交互設計指南。

這篇CHI 2019入選論文《人工智能交互指南》將各種涉及面廣泛、內(nèi)容具體的指南整合成一套可以被普遍接受的指南，同時也是對Eric Horvitz在CHI 1999上發(fā)表那篇開創(chuàng)性論文的20周年紀念。這篇論文提出了將人類和人工智能的能力有機結(jié)合，以及人工智能和人類混合動力的原則。

微軟研究人員遵循嚴格的流程，首先收集了150多份與AI相關(guān)的來自權(quán)威來源的設計建議，包括學術(shù)研究論文、博客文章和一些內(nèi)部資料。在對主題分類后，研究人員對內(nèi)容進行了精簡。然后，他們與用戶體驗（UX）和人機交互（HCI）專家聯(lián)手，展開多輪評估，以確保這份指南易于理解，并且適用于各種流行的AI產(chǎn)品。

“我們希望確保指南的內(nèi)容具體，并且能夠在UI層面產(chǎn)生可觀察的效果。因此，我們剔除了一些諸如‘設定期望’或‘建立信任’之類的總體原則，并將其轉(zhuǎn)化為具體、可操作的指南”資深項目經(jīng)理Mihaela Vorvoreanu說。

研究人員總結(jié)的18項人工智能交互指南共分為四個板塊，規(guī)定了交互初始階段、用戶與系統(tǒng)交互過程中、系統(tǒng)出錯情況下以及隨著時間推移，人工智能系統(tǒng)分別應該如何表現(xiàn)。雖然《人工智能交互指南》旨在為設計決策提供支持，但它不是一份簡單的檢查清單，更是意在支持和推動用戶體驗和工程開發(fā)從業(yè)者就設計決策的相關(guān)問題展開對話，并推動該領(lǐng)域更深入的研究。作者也認識到，在很多情況下，AI設計師必須在各項指南之間做出取舍，權(quán)衡不同因素的重要性。但同時，不斷豐富的AI產(chǎn)品功能和用例也需要更多的設計指導。

準則10：有疑問時調(diào)整服務范圍。當Word中的“自動替換”功能對某項更正操作存疑時，它會顯示多個選項供用戶從中選擇，以此消除歧義。

《人工智能交互指南》的制定和驗證以圖形用戶界面產(chǎn)品為依據(jù)，但也可以針對語音交互甚至半自動駕駛車輛等特殊的高風險用途加以具體化擴展或修改。

微軟研究院院長Eric Horvitz表示：“我們?nèi)蕴幱诶萌斯ぶ悄芗夹g(shù)擴展人類能力的早期階段。未來還有很多機會，當然也面臨著許多有趣的挑戰(zhàn)。其中的一個重要方向就是分享和完善有關(guān)將AI功能集成到人機交互體驗中的原則和設計。”

準則15：鼓勵細化的反饋。Ideas in Excel功能幫助用戶通過高級的可視化總結(jié)、趨勢圖和模式圖來理解數(shù)據(jù)。通過“這對您是否有幫助？”的提問，鼓勵大家對Excel提供的每項建議給予反饋。

《人工智能交互指南》的意義或許已經(jīng)超越了AI設計范疇，延伸至對“負責任和值得信賴的人工智能”的討論。2018年11月，微軟埃忒爾道德委員會（Aether Committee）發(fā)布了一份關(guān)于聊天機器人和虛擬助手等會話界面設計的指南——《負責任的機器人：對話AI開發(fā)者的10大指南》。

該委員會由微軟首席執(zhí)行官薩提亞·納德拉親自宣布成立，專注于AI技術(shù)的負責任開發(fā)與應用等議題，以確保公司的AI研發(fā)工作符合微軟的核心價值觀和原則，并能夠使整個社會受益。埃忒爾道德委員會下設幾個專題工作組，Amershi擔任人機交互與協(xié)作工作組的聯(lián)合主席。

人工智能交互設計指南

以下是《人工智能交互設計指南》的內(nèi)容摘要，想要了解各條指南的詳細信息和示例，請點擊“閱讀原文”，參閱論文《人工智能交互指南》。

初始階段

01. 明確系統(tǒng)可以做什么

幫助用戶了解AI系統(tǒng)能夠做什么。

02.明確系統(tǒng)的能力限度

幫助用戶了解AI系統(tǒng)的出錯頻率。

在互動期間

03.基于情境為服務設定時間

根據(jù)用戶當前的任務和環(huán)境，設定執(zhí)行或中斷操作的時間。

04.顯示與用戶使用情境相關(guān)的信息

顯示與用戶當前任務和環(huán)境相關(guān)的信息。

05.符合相關(guān)社會規(guī)范

提供符合用戶社會文化背景的體驗。

06.減少社會偏見

確保AI系統(tǒng)的語言和行為不會強化刻板印象及偏見。

系統(tǒng)出錯時

07.支持高效的調(diào)用

在需要時可以輕松調(diào)用或請求AI系統(tǒng)的服務。

08.支持高效解除

要能夠輕松解除或忽略不需要的AI系統(tǒng)服務。

09.支持有效的糾正

當AI系統(tǒng)出錯時，能夠輕松編輯、優(yōu)化或恢復。

10.有疑問時調(diào)整服務范圍

如果不能確定用戶的使用目的，調(diào)用消除歧義功能或減少AI系統(tǒng)的服務。

11.明確解釋系統(tǒng)為什么會這樣做

讓用戶能夠訪問AI系統(tǒng)行為的原因說明。

隨著時間推移

12.存儲近期互動

保留短期互動記錄，并允許用戶有效地查看這些記錄。

13.了解用戶行為。

逐漸學習用戶行為，實現(xiàn)用戶體驗的個性化。

14.謹慎地更新和調(diào)整。

在更新和調(diào)整AI系統(tǒng)的行為時，盡量避免顛覆性的變化。

15.鼓勵細化的反饋

在用戶與AI系統(tǒng)的交互期間，鼓勵用戶提供反映其偏好的反饋。

16.告知用戶操作的后果

提醒或告知用戶他們的操作將如何影響AI系統(tǒng)之后的行為。

17.為用戶提供對AI系統(tǒng)的完全控制

允許用戶全權(quán)控制AI系統(tǒng)監(jiān)控的內(nèi)容及其行為方式。

18.將變更信息告知用戶

當AI系統(tǒng)添加或更新功能時，通知用戶。