根據(jù)系統(tǒng)在三個(gè)方面的屬性(即熟練性、可信賴性和靈活性)定義了一個(gè)自主系統(tǒng):

●一個(gè)自主系統(tǒng)的設(shè)計(jì)應(yīng)確保在作戰(zhàn)期間，在給定的環(huán)境、任務(wù)以及設(shè)想的隊(duì)友之中的熟練性。理想的熟練性屬性包括現(xiàn)場(chǎng)智能性、自適應(yīng)認(rèn)知、多智能體突現(xiàn)，以及從經(jīng)驗(yàn)中學(xué)習(xí)。

●一個(gè)自主系統(tǒng)的設(shè)計(jì)應(yīng)確保在由其人類同行操作或與之合作時(shí)的信任。理想的信任原則包括認(rèn)知一致性和透明度、態(tài)勢(shì)感知、有效的人與多系統(tǒng)集成，以及人-系統(tǒng)團(tuán)隊(duì)合作和訓(xùn)練。

●一個(gè)自主系統(tǒng)應(yīng)在其行為、團(tuán)隊(duì)合作和決策方面表現(xiàn)出靈活性。理想的靈活性原則所包括的靈活性體現(xiàn)在能夠執(zhí)行不同任務(wù)、在不同的點(diǎn)對(duì)點(diǎn)關(guān)系下工作，并采取不同認(rèn)知方法來解決問題等方面。

我們相信，如果我們要在空軍中有效地部署和使用自主系統(tǒng)，所有這些方面都需要在一定程度上得到滿足。另種說法是，如果不能在所有三個(gè)方面滿足設(shè)計(jì)的空間，就會(huì)導(dǎo)致部署自主系統(tǒng)的失敗:熟練性低將導(dǎo)致使用其他系統(tǒng)，可信賴性低將導(dǎo)致停止使用，而靈活性低將導(dǎo)致自主系統(tǒng)無法在變化的、在設(shè)計(jì)階段可能未設(shè)想到的環(huán)境中展示真正的自主性。

一個(gè)自然的問題是，這些方面是否對(duì)系統(tǒng)擁有多少(或哪個(gè)級(jí)別的)自主性有任何意義。答案是否定的。從目的來看，并沒有打算使用這三個(gè)方面來定義或指導(dǎo)自主級(jí)別的一些概念。這只是因?yàn)檫€不明確這是否是一個(gè)有用的構(gòu)想，這一點(diǎn)在本文以及本文引用的早期研究中都已討論過。

我們現(xiàn)在討論一些自主系統(tǒng)的常見問題。

B.1一般概念

什么是智能?什么是人工智能?

智能是收集觀察結(jié)果、創(chuàng)造知識(shí)并適當(dāng)?shù)剡\(yùn)用這些知識(shí)來完成任務(wù)的能力。人工智能是一種擁有智能的機(jī)器。

什么是自主系統(tǒng)的內(nèi)部表示?

目前的自主系統(tǒng)被編程為使用不同的過程來完成任務(wù)。自主系統(tǒng)的內(nèi)部表示是智能體構(gòu)建其對(duì)世界的了解、其知識(shí)(自主系統(tǒng)用來進(jìn)行觀察和產(chǎn)生含義的東西)的方式，以及智能體構(gòu)建其合義和其理解的方式，例如，自主系統(tǒng)內(nèi)部用于其知識(shí)庫(kù)的編程模型。隨著自主系統(tǒng)獲得更多的知識(shí)，或者隨著自主系統(tǒng)進(jìn)一步操縱現(xiàn)有知識(shí)以創(chuàng)造新的知識(shí)，知識(shí)庫(kù)可能會(huì)發(fā)生變化。

什么是含義?機(jī)器會(huì)產(chǎn)生含義嗎?

含義是一個(gè)人或自主系統(tǒng)的內(nèi)部表示中因一些刺激物而改變的東西。它是刺激物對(duì)那個(gè)人或系統(tǒng)的含義。當(dāng)你(一個(gè)人)看著一面美國(guó)國(guó)旗時(shí)，它在你身上喚起的一系列思想和情緒就是那一時(shí)刻這種經(jīng)歷對(duì)你的含義。當(dāng)向一個(gè)自主系統(tǒng)顯示這幅圖像時(shí)，如果其像素密度在自主系統(tǒng)的軟件中引起了一些經(jīng)過編程的變化，那么這就是那面國(guó)旗對(duì)該自主系統(tǒng)的含義。在這里我們看到，自主系統(tǒng)產(chǎn)生含義的方式與人類的方式是完全不同的。作為其編程方式的結(jié)果，自主系統(tǒng)內(nèi)部表示中的變化就是對(duì)該自主系統(tǒng)的含義。一個(gè)刺激物的含義就是由該刺激物在該智能體(人或自主系統(tǒng))中所引起的、特定于智能體的表示上的變化。由數(shù)據(jù)引起的表示上的更新就是該刺激物對(duì)該智能體的含義。含義不僅僅是將數(shù)據(jù)放到表示中;它是表示的所有產(chǎn)生的變化。例如，默會(huì)知識(shí)的喚起，或進(jìn)行中的模擬(意識(shí);見下文)的修改，甚至因刺激導(dǎo)致的智能體知識(shí)的更新，都被納入某個(gè)刺激物給某個(gè)智能體的含義中。含義不是靜態(tài)的，會(huì)隨著時(shí)間的推移而發(fā)生變化。對(duì)于某個(gè)給定的智能體，一個(gè)刺激物的含義是不同的，這取決于它何時(shí)被提供給該智能體。

什么是理解?機(jī)器能理解嗎?

理解就是估計(jì)某個(gè)自主系統(tǒng)的含義是否會(huì)導(dǎo)致它以可接受的方式完成一項(xiàng)任務(wù)。理解發(fā)生的前提條件是，充當(dāng)執(zhí)行者的自主系統(tǒng)增加了一個(gè)評(píng)估人(或充當(dāng)評(píng)估者的自主系統(tǒng))的信心，使其相信該執(zhí)行者自主系統(tǒng)將以可接受的方式作出響應(yīng)。含義是由一個(gè)查詢(表示一個(gè)刺激)導(dǎo)致的自主系統(tǒng)內(nèi)部表示的更改。理解是含義的影響，導(dǎo)致對(duì)成功完成某一特定任務(wù)的期望。

什么是知識(shí)?

知識(shí)是用來為某個(gè)給定的智能體產(chǎn)生各種刺激的含義的東西。從歷史上看，知識(shí)產(chǎn)生于那些能通過遺傳學(xué)進(jìn)化、個(gè)別動(dòng)物的經(jīng)驗(yàn)，或者動(dòng)物(通過文化)向同一物種的其他成員交流知識(shí)來捕捉并編碼信息的物種。隨著機(jī)器學(xué)習(xí)的進(jìn)步，有一個(gè)合理的論點(diǎn)是，將來世界上產(chǎn)生的大部分知識(shí)都將由機(jī)器完成。

在思考什么?機(jī)器能思考嗎?

思考是用于操縱自主系統(tǒng)內(nèi)部表示的過程;是一種含義的生成，其中，含義是由刺激引起的內(nèi)部表示的變化。如果一個(gè)自主系統(tǒng)可以改變或操縱它的內(nèi)部表示，那么它就可以思考。

什么是推理?機(jī)器能推理嗎?

推理是在一項(xiàng)任務(wù)的語境下的思考。推理是思考感知到的內(nèi)容和完成任務(wù)要采取的行動(dòng)的能力。如果系統(tǒng)更新了它的內(nèi)部表示，它會(huì)生成含義，并且在這次思考與完成某項(xiàng)任務(wù)有關(guān)聯(lián)時(shí)進(jìn)行推理。如果該系統(tǒng)的方法沒有生成所需的“含義”來以可接受的方式完成這項(xiàng)任務(wù)，那么它就沒有進(jìn)行適當(dāng)?shù)耐评怼?/p>

什么是認(rèn)知?是什么使一個(gè)系統(tǒng)能夠認(rèn)知?

認(rèn)知是通過思考、體驗(yàn)和感覺創(chuàng)造知識(shí)和理解的過程。一個(gè)能夠通過思考、體驗(yàn)和感覺創(chuàng)造知識(shí)和理解的系統(tǒng)就是能夠認(rèn)知的系統(tǒng)。例如，一個(gè)認(rèn)知電子戰(zhàn)(CEW)系統(tǒng)從其感覺中收集數(shù)據(jù)并創(chuàng)造知識(shí)。它利用相關(guān)知識(shí)完成其電子戰(zhàn)任務(wù)，這表明該系統(tǒng)對(duì)其任務(wù)有一定程度的了解。

什么是情境(situation)?

一個(gè)情境是在自主系統(tǒng)的內(nèi)部表示中個(gè)別知識(shí)條目的鏈接，這些條目可以組合起來形成一個(gè)新的單一知識(shí)條目。這個(gè)新的單一知識(shí)條目就成為一個(gè)情境，這歸因于它與組成它的各個(gè)條目的鏈接。情境是認(rèn)知的基本單位。情境是由它們與其他情境的關(guān)系和彼此之間的交互方式來定義的。情境是作為一個(gè)整體來理解的。

什么是情境認(rèn)知(situatedcognition)?

情境認(rèn)知是一種理論，它斷定認(rèn)識(shí)與行為是不可分割的，認(rèn)為所有知識(shí)都處于社會(huì)、文化和物理背景密切相關(guān)的活動(dòng)中。這就是所謂的“看/想/做”范式。

什么是學(xué)習(xí)?什么是深度學(xué)習(xí)?

學(xué)習(xí)是通過體驗(yàn)、感知和思考來改變知識(shí)、理解和技能以便能夠適應(yīng)變化的認(rèn)知過程。根據(jù)智能體使用的認(rèn)知方法(它選擇的某種表示，例如符號(hào)型、聯(lián)接型等)，學(xué)習(xí)是智能體使用該表示對(duì)某個(gè)模型進(jìn)行編碼的能力(符號(hào)型智能體中的規(guī)則，或者，對(duì)聯(lián)結(jié)型方法來說，人工神經(jīng)元被聯(lián)接和調(diào)整權(quán)重的方式)。一旦對(duì)該模型進(jìn)行了編碼，就可以將其用于推論。深度學(xué)習(xí)是包含許多神經(jīng)元處理層的聯(lián)結(jié)式方法的一個(gè)子集，它的學(xué)習(xí)范式克服了過去與多層“信用分配”問題相關(guān)的限制(即，哪些權(quán)重應(yīng)該進(jìn)行調(diào)整以提高性能)，利用了大數(shù)據(jù)和多個(gè)實(shí)例進(jìn)行訓(xùn)練，并在計(jì)算基礎(chǔ)設(shè)施方面取得了進(jìn)展。深度學(xué)習(xí)近年來由于其處理圖像和語音數(shù)據(jù)的能力而備受關(guān)注;這在很大程度上是由于當(dāng)前計(jì)算機(jī)的處理能力、可用數(shù)據(jù)的急劇增加，以及學(xué)習(xí)方法的適度修改。深度學(xué)習(xí)基本上是一種非常成功的大數(shù)據(jù)分析方法。

B.2示例

車庫(kù)開門器是自動(dòng)化的(automated)還是自動(dòng)的(automatic)?

車庫(kù)開門器在收到信號(hào)時(shí)會(huì)開門，并根據(jù)一些預(yù)設(shè)的條件(電機(jī)轉(zhuǎn)動(dòng)的次數(shù)，或通過某一開關(guān))停止。它在關(guān)閉的情況下，如果收到打開信號(hào)就會(huì)打開，并根據(jù)同樣類型的預(yù)設(shè)條件而停止。車庫(kù)開門器是一個(gè)自動(dòng)系統(tǒng)，因?yàn)樗谝恍┯|發(fā)機(jī)制執(zhí)行一個(gè)簡(jiǎn)單的任務(wù)，并在完成其任務(wù)時(shí)也基于一些觸發(fā)機(jī)制而停止。

自動(dòng)目標(biāo)識(shí)別系統(tǒng)是自動(dòng)化的還是自動(dòng)的?

當(dāng)前用于目標(biāo)識(shí)別的方法是在一組假定的操作條件下、針對(duì)已知的目標(biāo)來工作的，并且可以拒絕像目標(biāo)似的對(duì)象，從而產(chǎn)生一定程度的魯棒性。因此，它們是自動(dòng)化解決方案。

地面防撞系統(tǒng)(GCAS)是自主的嗎?

如果擔(dān)心飛行員會(huì)導(dǎo)致飛機(jī)與地面相撞，地面防撞系統(tǒng)將接管飛機(jī)的控制。在這里，系統(tǒng)將指揮和控制(C2)從飛行員那里拿走，以防止飛機(jī)與地面碰撞，然后飛行員可以重新獲得C2(由系統(tǒng)明確地放棄控制，或者由飛行員收回控制)。地面防撞系統(tǒng)證明了同伴靈活性，并因此解決了前面提到的自主系統(tǒng)的一個(gè)關(guān)鍵挑戰(zhàn)。但是請(qǐng)注意，在這個(gè)描述中，系統(tǒng)并未展示任務(wù)或認(rèn)知靈活性。一些人認(rèn)為，地面防撞系統(tǒng)僅僅是一個(gè)自動(dòng)化系統(tǒng)因?yàn)樗狈φJ(rèn)知靈活性。

自動(dòng)駕駛系統(tǒng)是自主的嗎?

自動(dòng)駕駛系統(tǒng)的任務(wù)是在飛行員設(shè)定的特定高度(或高度剖面)以特定的速度飛行特定的軌跡。自動(dòng)駕駛不會(huì)改變其任務(wù)或與飛行員的同伴關(guān)系，也不會(huì)改變其控制飛機(jī)的方式。因此，它不滿足自主性的三項(xiàng)靈活性原則中的任何一項(xiàng)。不過，它確實(shí)反射性地適應(yīng)了各種不斷變化的、影響其航向、速度和高度的條件，以維持提供給它的參數(shù)。因此，它是一個(gè)自動(dòng)化系統(tǒng)。

自適應(yīng)巡航控制系統(tǒng)是自主的嗎?

巡航控制系統(tǒng)的存在是為了保持某個(gè)恒定的速度。一個(gè)自適應(yīng)巡航控制系統(tǒng)也會(huì)保持其速度，但它會(huì)通過改變速度來適應(yīng)在其前方感覺到的變化而無需獲得駕駛員的許可，以保持與前方汽車之間的安全距離。萬一有需要，它也可能會(huì)剎車。自適應(yīng)巡航控制是自動(dòng)化的，因?yàn)樗鼜牟桓淖兤渫殛P(guān)系，從不改變其任務(wù)(只是以預(yù)先編程的方式改變它完成任務(wù)的方式)，而且在這樣做時(shí)沒有任何認(rèn)知靈活性。

空對(duì)空導(dǎo)彈是自主的嗎?

一枚空對(duì)空導(dǎo)彈(甚至包括巡航導(dǎo)彈)與發(fā)射它的人有一種固定的同伴關(guān)系。這枚導(dǎo)彈是在完成一項(xiàng)預(yù)定義的任務(wù)，并且是以一種預(yù)編理的方式進(jìn)行的。靈活性的三項(xiàng)原則都沒有得到證明，因此它不是自主的。這種系統(tǒng)是非凡的，并且能夠完成一項(xiàng)非常復(fù)雜的任務(wù)，但它也只是自動(dòng)化的。

谷歌汽車和有自動(dòng)駕駛功能的特斯拉汽車是自主的嗎?

谷歌汽車按照指示駛向某個(gè)地點(diǎn)，但它可以將任務(wù)從行駛改變?yōu)榫o急停車，比如，為避免撞到某個(gè)行人。當(dāng)特斯拉自動(dòng)駕駛儀撇開駕駛員并且不允許其參與控制(因?yàn)轳{駛員的手離開了方向盤)時(shí)，或者當(dāng)大眾自主汽車接管控制并剎車，以防止迎頭相撞時(shí)，我們看到的是同伴靈活性的實(shí)例，正如前面所述的地面防撞系統(tǒng)一樣。但它并不是自主的。

Roomba(掃地機(jī)器人)是自主的嗎?

Roomba是一種受歡迎的家居用品，它作為房主的代理人來對(duì)地毯吸塵。它的能力相當(dāng)強(qiáng)，新版本吸收了現(xiàn)代機(jī)器人學(xué)，以納入在繪制環(huán)境圖的同時(shí)確定其當(dāng)前位置的能力。Roomba有一項(xiàng)唯一的任務(wù)——吸塵。它沒有改變其同伴關(guān)系的能力，也不改變其完成任務(wù)的模式。因此，Roomba不是自主的，但它是一個(gè)非常有能力和有用處的自動(dòng)化系統(tǒng)。

IBM的沃森是智能的嗎?沃森是人工智能嗎?

Watson擁有的知識(shí)是由人類編程結(jié)合這些程序?qū)Υ笮蛿?shù)據(jù)存儲(chǔ)的應(yīng)用來收集和/或生成的。它能夠有效地存儲(chǔ)和檢索可能相關(guān)的知識(shí)，這樣它就可能對(duì)查詢作出響應(yīng)。有人可能會(huì)說，當(dāng)沃森被允許使用其編程來搜索和適當(dāng)?shù)?a target="_blank">索引大型數(shù)據(jù)存儲(chǔ)庫(kù)時(shí)，它是在收集信息以便稿后適當(dāng)?shù)貞?yīng)用。在進(jìn)行這種搜索時(shí)，它使用了一種整體(ensemble)學(xué)習(xí)方法，這意味著它改變了模型以便能夠提供更好的結(jié)果，這是具有認(rèn)知靈活性的一個(gè)方面。因此，沃森正在解決自主系統(tǒng)的一個(gè)關(guān)鍵挑戰(zhàn)，但我們不會(huì)認(rèn)為它是自主的。但不管怎樣，沃森是一個(gè)展示出智能的硬件和軟件組合體。因此，如前面所述，它是一個(gè)人工智能。

Siri是智能的嗎?Siri是人工智能嗎?

Si為響應(yīng)查詢而收集的信息是通過其編程完成的。它確實(shí)收集數(shù)據(jù)來對(duì)查詢作出響應(yīng)，并且經(jīng)常適當(dāng)?shù)厥褂眠@些知識(shí)來為回答提供價(jià)值，它是一種很好的自動(dòng)化。由于Siri是硬件和軟件的組合，并且按照前面的定義展示了智能，因此我們會(huì)將Sin標(biāo)記為人工智能。

Siri懂得我正在問什么嗎?

當(dāng)我們有理由期望它將給出一個(gè)能夠使用的答案時(shí)，你可以說Siri懂，當(dāng)我們有理由期望這個(gè)答案將是不能接受的，那么你可以說Siri不懂。但對(duì)于所有的人工智能系統(tǒng)，用戶必須認(rèn)識(shí)到系統(tǒng)產(chǎn)生的含義并不是“人類的含義”，因此必須謹(jǐn)慎使用。例如，某個(gè)人工智能能夠以高可信賴性將一輛校車稱為一只鴕鳥，但任何看到這幅圖像的人都將無法理解人工智能是怎么可能犯下這一錯(cuò)誤的。其原因是，對(duì)這個(gè)人工智能來說，含義是向量空間中的一個(gè)位置，是通過處理像素密度和顏色到達(dá)的，而一只鴕鳥是一個(gè)對(duì)象類別，并不擁有我們?nèi)祟愒诤x中聯(lián)系或產(chǎn)生的那種豐富的含義。

“阿爾法狗”懂圍棋游戲嗎?

“阿爾法狗”對(duì)圍棋游戲的理解只能從另一個(gè)智能體的角度來評(píng)估。作為一個(gè)非圍棋玩家，你可能愿意說阿爾法狗懂這種游戲，因?yàn)閺囊环N純樸的角度來看，它對(duì)玩游戲的任務(wù)做出了可以接受的響應(yīng)。這里，“阿爾法狗”對(duì)任何有利于作出一個(gè)預(yù)期可接受的響應(yīng)的盤面形勢(shì)生成了“含義”.那么，在一個(gè)希望把“懂游戲”定義為“自主系統(tǒng)在內(nèi)部給自己產(chǎn)生成了游戲是什么的含義”的人看來，他可能會(huì)得出“阿爾法狗”不懂圍棋游戲的結(jié)論?！鞍柗ü?是一個(gè)自動(dòng)化系統(tǒng)，并且由于它利用知識(shí)來生成對(duì)那些有利于它作出響應(yīng)的盤面形勢(shì)的含義，因此它是一個(gè)人工智能。

審核編輯：郭婷