1995年，Manuel Blum 因計(jì)算復(fù)雜性理論及其在密碼系統(tǒng)和程序檢驗(yàn)中的應(yīng)用而獲圖靈獎。在今年的第三屆世界智能大會上，Manuel Blum 發(fā)表了題為“邁向有意識的人工智能，受神經(jīng)科學(xué)啟發(fā)的計(jì)算機(jī)體系結(jié)構(gòu)”的演講，一起來聆聽大師的智慧。

Manuel Blum, 1995年，因計(jì)算復(fù)雜性理論及其在密碼系統(tǒng)和程序檢驗(yàn)中的應(yīng)用而獲圖靈獎。美國國家科學(xué)院院士，美國國家工程院院士，美國藝術(shù)與科學(xué)學(xué)院院士?，F(xiàn)任美國卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)學(xué)院教授。2019年5月16日，Manuel Blum在第三屆世界智能大會上，以“邁向有意識的人工智能，受神經(jīng)科學(xué)啟發(fā)的計(jì)算機(jī)體系結(jié)構(gòu)”為題展開演講。 Manuel Blum：朝著有意識的人工智能發(fā)展，這是電腦的架構(gòu)，是由一個神經(jīng)科學(xué)家所開發(fā)的。這是一項(xiàng)聯(lián)合研究，我們就這個理論也發(fā)布了一篇論文。我們所講的認(rèn)知神經(jīng)科學(xué)，要求我們?nèi)ダ斫獯竽X的運(yùn)作。1980年，Bernard Baars提出這樣的一個理論。我們?nèi)ダ斫馑_發(fā)的項(xiàng)目，也就是全球空間模型，這個模型可以幫助我們更好地理解什么是意識。而且有一個正式的計(jì)算機(jī)架構(gòu)，因?yàn)檫@個模型的啟發(fā)而得以開發(fā)出來。 這個模型是由認(rèn)知神經(jīng)科學(xué)家所提出來。基于這個模型可以開發(fā)出更為靈活高效的機(jī)器，這也是未來機(jī)器發(fā)展的走向。

曼紐爾·布盧姆（右一） 我在這里探討的是意識。為什么要講意識？這個架構(gòu)和意識又有什么關(guān)系呢？我們認(rèn)為意識能夠讓人有能力和靈活性。同樣基于意識的架構(gòu)，能夠賦予計(jì)算機(jī)和機(jī)器人以非常強(qiáng)大的能力和靈活性。這里有很多的學(xué)生，我希望你們未來能夠打造出有意識的電腦。 首先，什么是意識？人的意識或者人的感知能力，就是我們所注意到的任何事情。無論是處于清醒狀態(tài)還是睡眠狀態(tài)，當(dāng)然如果你睡覺的時候沒有做夢，那是沒有意識的。但是只要你能夠看到、聽到、感受到、聞到、品嘗到，這都是意識。你的感受、你的喜悅、你的悲傷、你的恐懼，這都是意識。我們內(nèi)心的自我獨(dú)白也是意識。我們每天無時無刻不在自己內(nèi)心和自己進(jìn)行對話。我們在晚上做夢的時候會夢到各種各樣的圖像，這些圖像看上去栩栩如生，反映出我們大腦的故事?；旧衔覀兇竽X內(nèi)部所感知到的東西，這也是意識。

我們舉幾個例子。什么是有意識的計(jì)算？什么是沒有意識的計(jì)算？你們?nèi)⒓舆^party嗎？當(dāng)你看到一個人，感覺非常面熟就是不知道他叫什么名字。他叫什么名字呢？想不起來。你沒有在意這件事，算了吧，想不起來就想不起來吧。但是過了半小時，你突然想起來他叫什么名字了。這就是你的潛意識或者無意識地在進(jìn)行計(jì)算。 如果我們生命中沒有意識，那什么樣的狀態(tài)？就是睡覺，而且是沒有夢的睡覺。有一種疾病就是人有意識，但是卻看不到東西。患者的視覺功能是正常的，但是他們卻看不到東西，這就是所謂的盲視?；颊呖吹綎|西卻沒有意識，因此覺得自己是盲人。但是他們真的是盲人嗎？把患者放到一個房間，這個房間有入口，里面有很多的障礙物，讓他們避開這些障礙物，到房間的另一端，他們是能夠做到的。他們往往做到之后也感到非常驚奇，覺得難以置信。

圖片來自大科技 意識讓我們的生命充滿了活力。意識來自于哪里？認(rèn)知神經(jīng)科學(xué)家Bernard Baars指出，意識來自大腦的結(jié)構(gòu)。這里講的不是神經(jīng)元，而是在神經(jīng)元更基礎(chǔ)之上，更高一個層面的架構(gòu)系統(tǒng)設(shè)計(jì)。神經(jīng)科學(xué)家于1989年提出來一個理論叫做劇場意識，這是一個聰明絕頂?shù)睦碚?，就是以劇場作為類比來描述“什么是意識”。意識就是在舞臺上的演員憑借短期的記憶從事一系列的表演。短期記憶，一個非常非常短的記憶，它就是你的意識。舞臺上的演員憑借這個短期的記憶在進(jìn)行表演，有很多很多的觀眾坐在暗處觀看。這些觀眾不見得有意識，那這就是長期意識，長期記憶。

基于這個理論進(jìn)一步的完善，讓它成為一個正式嚴(yán)謹(jǐn)?shù)睦碚摗Ｎ覀兛匆豢?，左邊是輸入，我從上面開始講吧。這個頂端有一個中央指揮員，就像是一個導(dǎo)演，劇場上這些演員怎么調(diào)動由他說了算。右邊的這個圖像是我們短期記憶，也就是短暫的存儲，短暫的信息庫存?；诖?，我們再進(jìn)一步地前進(jìn)到輸出這個環(huán)節(jié)。在最下面，是各種各樣的長期記憶處理。 這是個聰明絕頂?shù)哪Ｐ?。我多年來就想找到這樣的模型，但是一直沒有找到。后來幸運(yùn)的是Bernard Baars發(fā)明了這個模型，但是這不是一個“放之四海皆準(zhǔn)”的藍(lán)圖，你不能憑著這個模型就造出一個有意識的機(jī)器。作為計(jì)算機(jī)科學(xué)家，我和其他的聯(lián)合研究員對這個模型的完善也做出一些貢獻(xiàn)，就是對人工智能、智能圖靈機(jī)器給出一個正式的定義，而且有相應(yīng)的理論。

有意識的圖靈機(jī)器不是要做無法計(jì)算的任務(wù)，這是沒辦法做到的。只是能夠把那些可以計(jì)算的任務(wù)以更加高效的方式做出來，能夠給我們提供一個打造有意識的機(jī)器的圖紙，能夠讓我們更好地去理解意識，讓我們知道為什么機(jī)器有可能是變成有意識的。

現(xiàn)在，這樣的機(jī)器已經(jīng)在建造之中，至少有一個這樣的軟件。有兩個團(tuán)隊(duì)在做，其中一個團(tuán)隊(duì)負(fù)責(zé)人是華盛頓大學(xué)的教授，另外一個團(tuán)隊(duì)負(fù)責(zé)人是哈工大的王長喜教授。這是意識的架構(gòu)，由簡單的圖靈機(jī)器所啟發(fā)的。還有Bernard GWM的模型，這兩者結(jié)合在一起我們就可以對有意識的圖靈機(jī)器給出一個定義，界定已具備的幾個特點(diǎn)。

這里我們看一看一個正式的、有意識的圖靈機(jī)器。在這上面有一個鐘表在計(jì)時間。每一個有意識的機(jī)器，它的每一步都在進(jìn)行計(jì)算，而且在周遭有一個環(huán)境，包括有意識的個體本身。有意識的AI，有7個層級，像輸入輸出、短期記憶、長期記憶、向下的數(shù)向上的數(shù)。這里我用一個深入淺出的方式來講，給大家看一個圖表，就像Bernard的圖表一樣。 這是有意識的圖表機(jī)器架構(gòu)，看起來像Baars提出的模型，短期記憶是黃色的部分，這是我們感知到的有意識的部分。中央指揮官在最上面這個導(dǎo)演我們是沒有的，在我們的機(jī)器中取消了這個東西，直接輸入，從這條直線沒有直接輸入到短期記憶，在這個模型中短期記憶并沒有直接的輸出。但是我們有外界的輸入進(jìn)入下面長期記憶，長期記憶也在運(yùn)作。長期記憶處理發(fā)出信號產(chǎn)生產(chǎn)出。長期記憶的處理經(jīng)歷了某種類型的競爭，來決定到底哪些東西是可以進(jìn)入到短期記憶。一旦進(jìn)入短期記憶，就要進(jìn)行廣播，向所有的長期記憶處理器進(jìn)行廣播。 我們提出一個觀點(diǎn)就是，我們所開發(fā)出的這種意識，短期記憶中的東西都進(jìn)行廣播，向所有的長期記憶處理器進(jìn)行廣播，讓長期記憶知道你對什么東西是有意識的。

這就是競爭的進(jìn)行。而這個競爭必須要簡單地競爭，而且要求的速度非?？?，幾十億個長期記憶進(jìn)行競爭，經(jīng)過競爭后只有一個長期記憶進(jìn)入短期記憶，所以要非常地快。 短期記憶非常短，就是一個小塊。大家知道小塊是什么意思嗎？經(jīng)濟(jì)學(xué)家經(jīng)常用這個詞，這個小塊也就是所謂的數(shù)字或者一個詞或者一個字母，或者是一個字母表比如說英文的字母表。我們對字母表其實(shí)是沒有意識的，我們只知道ABCD，我們可以一直數(shù)下去，但是這個小塊呢，指的是一個提示器。它能夠指到你想要的東西。 比如說下面減5，如果是痛苦的話，減7，如果是高興的話，又是另外的一個數(shù)值。那5比3要大，所以痛苦的分值要比高興的分值要高，所以痛苦就在競爭中脫穎而出，勝出進(jìn)入短期記憶。我們可以看到像恐懼是負(fù)5的得分，所以他們勝出了，在競爭中向上傳負(fù)7，痛苦的分值是負(fù)7，在競爭中勝出，往上傳，往短期記憶傳。所以像這樣的活動持續(xù)不斷的，總是有些東西在競爭中勝出，而進(jìn)入短期記憶。

在這個模型里面有這樣一個小塊，會進(jìn)入短期記憶，那心理學(xué)家就說短期記憶能夠容納2個小塊，但是在我們模型里面我們只設(shè)置了一個小塊。

圖片來自網(wǎng)絡(luò) 我給大家展示一下，長期記憶處理器到底長什么樣子。它對外界的輸入進(jìn)行采集，然后再經(jīng)過競爭，輸入到短期記憶，再形成產(chǎn)出，進(jìn)入外界。這是一個很有意思的點(diǎn)，當(dāng)一個嬰兒出生的時候，是沒有這樣的連接的。當(dāng)有知覺的、有意識的圖靈機(jī)器剛剛創(chuàng)造出來的時候也是沒有知覺的，就像一個剛剛生出的嬰兒一樣。但是隨著嬰兒不斷的成長，也就是隨著機(jī)器不斷的成長，這些處理器反反復(fù)復(fù)的進(jìn)行競爭，反反復(fù)復(fù)地在競爭中勝出，進(jìn)入短期記憶。比如說其中一個長期記憶處理器，處理的東西勝出了，然后他會反反復(fù)復(fù)問一個問題。其他的一些處理器會試圖回答這個問題，產(chǎn)生了想要的答案。比如說和A回答B(yǎng)的問題，A和B就形成鏈接。這樣一個鏈接讓意識的程序逐漸變成了無意識的程序，然后就中斷了，基本上就意識不到它的存在了。

接下來給大家看一個例子，展示它運(yùn)作的機(jī)制。這里可以看到模型，有意識的模型。比如說你摸了一個爐子，你的手指被燙了，這個輸入就進(jìn)入長期記憶的處理器，被標(biāo)注定義為痛苦。這個痛苦傳到旁邊的處理器，很快就產(chǎn)生了輸出。這個輸出就是你把手很快從滾燙的爐子邊挪開。與此同時，這個產(chǎn)出也會進(jìn)入到短期記憶。因此，你只是會在你被燙的時候才感知到這個痛苦。然后進(jìn)行廣播，其他的一些處理器，比如控制水的處理器，這個東西太燙不能喝。
那到底什么是有意識的圖靈機(jī)器？它對什么有意識？就是短期記憶有意識，它的小塊能夠?qū)π畔⑺诘牡胤竭M(jìn)行定位。為什么短期記憶如此短，如此微小，這也是有答案的。 哪些東西能夠進(jìn)入短期記憶？長期記憶的處理器是如何產(chǎn)生的？什么樣的長期記憶處理器才能夠形成意識？這有很多很多的問題，都是需要解答的。