《連線》雜志專訪Geoffrey Hinton，關(guān)于AI自主武器、AI研究的挑戰(zhàn)、思考大腦的運作方式如何啟發(fā)人工神經(jīng)網(wǎng)絡(luò)等。Hinton很確定，不會有AI寒冬，因為AI已經(jīng)成為人們?nèi)粘Ｉ畹囊徊糠帧?/p>

20世紀(jì)70年代初，來自英國的研究生Geoffrey Hinton開始構(gòu)建簡單的數(shù)學(xué)模型，來描述人腦神經(jīng)元如何在視覺上理解世界。幾十年來，人工神經(jīng)網(wǎng)絡(luò)一直被認(rèn)為是一項不切實際的技術(shù)。但在2012年，Hinton和他在多倫多大學(xué)的兩名研究生利用人工神經(jīng)網(wǎng)絡(luò)將計算機識別圖像中物體的準(zhǔn)確度大幅提升。這三位研究人員一起創(chuàng)立了一家創(chuàng)業(yè)公司，僅僅6個月就被谷歌收購。從前鮮為人知的人工神經(jīng)網(wǎng)絡(luò)也開始成為硅谷的熱門話題。

上周，在七國集團(G7)首次的人工智能會議上，《連線》雜志采訪了Hinton。來自世界主要工業(yè)化經(jīng)濟體的代表們在會上討論了如何開發(fā)人工智能的好處，同時盡量減少失業(yè)和算法歧視等不利因素。

以下是經(jīng)過編輯的采訪實錄：

《連線》：加拿大***Justin Trudeau在G7會議上表示，AI帶來的道德挑戰(zhàn)還需要做更多的努力。你怎么看?

Geoff Hinton：我一直擔(dān)心致命的自主武器有可能被濫用。我認(rèn)為應(yīng)該有一個類似于《日內(nèi)瓦公約》的條約來禁止自主武器，就像禁止化學(xué)武器一樣。即使不是每個人都在上面簽名，它的存在也會起到某種道德約束的作用。人們會看誰沒有簽名。

問：有4500多名你的谷歌同事聯(lián)名簽署了一封公開信，抗議一項谷歌與五角大樓的合同，涉及將機器學(xué)習(xí)應(yīng)用于無人機圖像。谷歌稱這并非用于攻擊性的用途。你在信上簽名了嗎?

Hinton：作為一名谷歌的高管，我認(rèn)為我不應(yīng)該公開抱怨，所以我是私下抱怨。我沒有在給[谷歌聯(lián)合創(chuàng)始人]謝爾蓋?布林(Sergey Brin)的信上簽名。他說他對這件事也有點不高興。所以他們后來沒有繼續(xù)深究。

問：谷歌的領(lǐng)導(dǎo)決定走完那項合同，但不續(xù)簽合同。他們還發(fā)布了一系列使用人工智能的指導(dǎo)原則，其中包括承諾不將該技術(shù)用于武器。

Hinton：我認(rèn)為谷歌的決定是正確的。會有各種各樣的事情需要云計算，很難知道在哪里畫一條線，從某種意義上說，畫線這件事情是相當(dāng)任意的。我很高興谷歌畫出了這條線。這些原則在我看來很有意義。

問：人工智能在日常生活中也會引發(fā)倫理問題。例如，當(dāng)軟件被用于在社會服務(wù)或醫(yī)療保健中做決策時。我們應(yīng)該注意什么?

Hinton：我是讓技術(shù)起作用方面的專家，但不是社會政策方面的專家。在這方面，我確實擁有相關(guān)技術(shù)專長的是，監(jiān)管機構(gòu)是否應(yīng)該堅持要求技術(shù)人員解釋你的AI系統(tǒng)是如何工作的。我認(rèn)為那樣的話，將是一場徹底的災(zāi)難。

對于現(xiàn)在的AI系統(tǒng)所做的大部分事情，人們無法解釋它們是如何工作的。比如說，當(dāng)你雇傭一個人的時候，這個決定是基于各種各樣你可以量化的東西，然后是各種各樣的直覺。人們不知道他們是怎么做到的。如果你讓他們解釋他們的決定，你是在強迫他們編一個故事。

神經(jīng)網(wǎng)絡(luò)也有類似的問題。當(dāng)你訓(xùn)練一個神經(jīng)網(wǎng)絡(luò)時，它會學(xué)習(xí)十億個數(shù)字，這些數(shù)字代表了它從訓(xùn)練數(shù)據(jù)中提取出來的知識。如果你輸入一張圖像，輸出的是正確的決策，比如說，它會回答“這是不是一個行人”。但是如果你問“它為什么這么認(rèn)為？”好吧，如果有任何簡單的規(guī)則能判斷一張圖像是否包含行人，那么這個問題應(yīng)該很久以前就已經(jīng)解決了。

問：那么我們怎么知道，什么時候可以信任這些系統(tǒng)呢?

Hinton：你應(yīng)該根據(jù)它們的表現(xiàn)來規(guī)范它們。你要運行實驗，看看這個系統(tǒng)是否有偏見，或者它與人類相比，做同樣的事情殺死的人是否更少。對于自動駕駛汽車，我認(rèn)為人們現(xiàn)在多少接受了這一點。即使你不太清楚自動駕駛汽車是如何做到這一切的，如果它的事故比人駕駛的汽車少得多，那它就是一件好事。我認(rèn)為我們必須像對待人那樣對待AI：你只需要看看它們表現(xiàn)如何，如果它們反復(fù)運行崩潰，那么就要說它們不夠好。

問：你曾說過，思考大腦是如何工作的，啟發(fā)了你對人工神經(jīng)網(wǎng)絡(luò)的研究。我們的大腦通過突觸連接的神經(jīng)元網(wǎng)絡(luò)，從我們的感官中獲取信息的。人工神經(jīng)網(wǎng)絡(luò)通過數(shù)學(xué)神經(jīng)元網(wǎng)絡(luò)提供數(shù)據(jù)，這些神經(jīng)元由稱為權(quán)重的連接連接起來。在上周發(fā)表的一篇論文中，你和幾位合著者認(rèn)為，我們應(yīng)該做更多的工作來揭示大腦中運作的學(xué)習(xí)算法。為什么?

（注: 論文題為Assessing the Scalability of Biologically-Motivated Deep Learning Algorithms and Architectures，地址：https://arxiv.org/abs/1807.04587）

Hinton：大腦解決的問題與我們大多數(shù)的神經(jīng)網(wǎng)絡(luò)非常不同。大腦大約有100萬億個突觸。一般來說，人工神經(jīng)網(wǎng)絡(luò)的權(quán)重數(shù)量比大腦突觸至少要小10000倍。大腦用很多很多的突觸從幾個片段中學(xué)到盡可能多的東西。當(dāng)有很多情節(jié)或例子可以從中學(xué)習(xí)時，深度學(xué)習(xí)擅長利用神經(jīng)元之間更少的連接來學(xué)習(xí)。我認(rèn)為大腦不關(guān)心怎樣把大量的知識壓縮到幾個連接中，它關(guān)心的是利用大量的連接快速提取知識。

問：我們怎樣才能構(gòu)建起更強大的機器學(xué)習(xí)系統(tǒng)呢?

Hinton：我認(rèn)為我們需要轉(zhuǎn)向另一種計算機。幸運的是，我這里有一個。

（Hinton把手伸進皮夾，拿出一塊閃亮的大硅片。這是Graphcore的一個原型，Graphcore是一家英國初創(chuàng)公司，致力于開發(fā)一種新型處理器，為機器/深度學(xué)習(xí)算法提供動力。）

幾乎所有我們運行神經(jīng)網(wǎng)絡(luò)的計算機系統(tǒng)，甚至是谷歌的特殊硬件，都使用RAM(存儲正在使用的程序)。從RAM中提取神經(jīng)網(wǎng)絡(luò)的權(quán)重需要耗費大量的能量，這樣處理器才能使用它。所以每個人都要確保一旦他們的軟件獲得了權(quán)重，就能多次使用它們。這是巨大的成本，因為你不能為每個訓(xùn)練樣例改變所做事情。

問：最近對人工智能和機器學(xué)習(xí)的興趣和投資激增，意味著用于研究的資金比以往任何時候都要多。該領(lǐng)域的快速發(fā)展是否也帶來了新的挑戰(zhàn)?

Hinton：機器學(xué)習(xí)社區(qū)面臨的一大挑戰(zhàn)是，如果你想要在機器學(xué)習(xí)領(lǐng)域發(fā)表一篇論文，必須要有一個表，表上首行是各種不同的數(shù)據(jù)集，沿著左列是各種不同的方法，而且你的方法必須看起來是最好的。如果不是這樣，就很難發(fā)表。我不認(rèn)為這能鼓勵人們?nèi)ニ伎既碌南敕ā?/p>

現(xiàn)在，如果你提交的論文有一個全新的觀點，它是沒有機會被接受的，因為它會遇到一些不理解它的初級審稿人?；蛘吣銜龅揭晃毁Y深審稿人，他審稿的論文太多了，但第一次看不懂，認(rèn)為這肯定是胡說八道。任何費腦子的東西都不會被接受。我認(rèn)為這很糟糕。

尤其是在基礎(chǔ)科學(xué)會議上，我們應(yīng)該追求的是全新的想法。因為我們知道，從長遠(yuǎn)來看，一個全新的想法將比一個微小的改進產(chǎn)生更大的影響。罔顧了這一事實，我認(rèn)為這是機器學(xué)習(xí)領(lǐng)域的一個主要缺點，這個領(lǐng)域資深的人不多，年輕人更多。

問：這會阻礙這一領(lǐng)域的發(fā)展嗎?

Hinton：只要再等幾年，這種不平衡就會得到糾正。這是暫時的。現(xiàn)在公司都在忙于教育人們，大學(xué)也在忙著教育人們，大學(xué)最終會在這個領(lǐng)域雇傭更多的教授，它本身會自我糾正的。

問：一些學(xué)者警告說，當(dāng)前的炒作可能會進入“人工智能的寒冬”，就像上世紀(jì)80年代那樣，當(dāng)時由于進展沒有達到預(yù)期，投向AI的興趣和資金都枯竭了。

Hinton：不，不會有人工智能的寒冬，因為AI驅(qū)動著你的手機。在過去的人工智能寒冬，AI并不是人們?nèi)粘Ｉ畹囊徊糠帧，F(xiàn)在它已經(jīng)是了。