近日《連線》雜志發(fā)表了一篇文章，記錄了與“深度學(xué)習(xí)之父” Geoffrey Hinton 圍繞人工智能倫理、技術(shù)、學(xué)術(shù)等領(lǐng)域的采訪實(shí)錄。當(dāng)被問到如今人工智能是否將走進(jìn)寒冬時(shí)，Hinton 的回答非常堅(jiān)決：“不會(huì)有‘人工智能寒冬’。因?yàn)?AI 已經(jīng)滲透到你的生活中了。在之前的寒冬中，AI 還不是你生活的一部分。但現(xiàn)在它是了?！?/p>

在 20 世紀(jì) 70 年代早期，一位名叫 Geoffrey Hinton（杰弗里·辛頓）的英國(guó)研究生開始構(gòu)建簡(jiǎn)單的數(shù)學(xué)模型，以說明人類大腦中的神經(jīng)元是如何在視覺上理解世界的?！叭斯?a href="http://www.makelele.cn/tags/神經(jīng)網(wǎng)絡(luò)/" target="_blank">神經(jīng)網(wǎng)絡(luò)”，正如其名，幾十年來仍被視為一種不切實(shí)際的技術(shù)。但在 2012 年，Hinton 和他在多倫多大學(xué)的兩名研究生 Alex Krizhevsky、Ilya Sutskever 通過人工神經(jīng)網(wǎng)絡(luò)來提高計(jì)算機(jī)識(shí)別照片中物體的準(zhǔn)確性，他們?cè)O(shè)計(jì)的深層卷積神經(jīng)網(wǎng)絡(luò) AlexNet，也一舉奪得了當(dāng)年 ImageNet LSVRC 的冠軍。僅僅半年后，Google 公司收購了這三位研究人員創(chuàng)立的創(chuàng)業(yè)公司。至此，卷積神經(jīng)網(wǎng)絡(luò)（CNN）也由此將深度學(xué)習(xí)推進(jìn)了新的歷史階段。

在此之前，人工智能不為多數(shù)人知曉，而今卻已是硅谷炙手可熱的話題。

在上周蒙特利爾舉辦的 G7 人工智能會(huì)議上，《連線》雜志采訪了 Hinton，此次會(huì)議的主要參講嘉賓來自世界領(lǐng)先的工業(yè)化經(jīng)濟(jì)體，他們共同討論了鼓勵(lì)人工智能發(fā)展的益處，以及如何減少失業(yè)和偏見學(xué)習(xí)算法的缺陷問題。

以下采訪經(jīng)過編輯整理如下：

Wired：加拿大*** Justin Trudeau 在七國(guó)集團(tuán)會(huì)議上表示，人工智能帶來的道德挑戰(zhàn)問題需要更好的得到解決。對(duì)此您怎么看？

Geoffery Hinton：我一直擔(dān)心致命的自主武器可能會(huì)被濫用。我認(rèn)為應(yīng)該像《日內(nèi)瓦公約》禁止化學(xué)武器那樣禁止它們。即使不是每個(gè)人都簽署這項(xiàng)協(xié)議，但它實(shí)際上扮演著的是一種道德象征。你會(huì)注意到誰沒有簽署。

Wired：據(jù)了解，有 4500 多名 Google 的員工簽署了一封抗議五角大樓合約的信件，其中涉及了將機(jī)器學(xué)習(xí)應(yīng)用于無人機(jī)圖像。Google 聲稱這并非用于攻擊性用途。您當(dāng)時(shí)簽署了這封信嗎？

Geoffery Hinton：作為一名 Google 高管，我不認(rèn)為這是我能公開投訴的地方，所以我私下會(huì)抱怨這個(gè)問題。我沒有簽署這封信，但我與 Google 的聯(lián)合創(chuàng)始人謝爾蓋·布林談過。他說他對(duì)此也有點(diǎn)不太高興，他們也不會(huì)追求這樣的事情。

Wired：Google 的領(lǐng)導(dǎo)者決定完成但不續(xù)簽合同。他們發(fā)布了一些有關(guān)使用人工智能的指導(dǎo)方針，其中包括不使用該技術(shù)制造武器的承諾。

Geoffery Hinton：我認(rèn)為 Google 做出了正確的決定。會(huì)有各種各樣的問題需要云計(jì)算解決，所以很難能劃分出一個(gè)比較清晰的界限，從某種意義上這也是隨機(jī)的?？吹?Google 最后制定的底線我還是尤為高興的。這種原則對(duì)我來說很有意義。

Wired：人工智能也可以在日常情況下出現(xiàn)道德問題。例如，當(dāng)軟件在用于社會(huì)服務(wù)或醫(yī)療保健中給出判斷時(shí)，我們應(yīng)該注意些什么？

Geoffery Hinton：我是一名試圖將技術(shù)發(fā)揮作用的專家，不是社會(huì)政策方面的專家。在這方面，從我技術(shù)的角度來看，監(jiān)管機(jī)構(gòu)應(yīng)該決定是否堅(jiān)持：你可以解釋你的 AI 系統(tǒng)是如何工作的。我認(rèn)為這是一場(chǎng)徹底的災(zāi)難。

對(duì)于自己所做的大多事情，人們根本是無法解釋的。當(dāng)你聘請(qǐng)某人，你將取決于各種可以量化的事情進(jìn)行判斷，然后才是你的直覺。人們不清楚自己是如何完成這個(gè)決策的。如果你非要他們解釋這個(gè)原因，那你就是在強(qiáng)迫他們編造一個(gè)故事。

神經(jīng)網(wǎng)絡(luò)同樣也有類似的問題。當(dāng)你訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)，它將學(xué)習(xí)十億個(gè)數(shù)字，這些數(shù)字代表著它從訓(xùn)練數(shù)據(jù)中提取的知識(shí)。如果你輸入一張圖片，做出正確的判斷如“這是一個(gè)行人”。但如果你問“為什么會(huì)這么想？”如果有任何簡(jiǎn)單的規(guī)則來判斷圖像是否包含行人，那么這個(gè)問題早就被解決了。

Wired：那我們?cè)趺茨苤篮螘r(shí)能信任這些系統(tǒng)呢？

Geoffery Hinton：你應(yīng)該根據(jù)系統(tǒng)的表現(xiàn)進(jìn)行規(guī)范，即運(yùn)行幾組實(shí)驗(yàn)看看這個(gè)系統(tǒng)是否存在偏差。對(duì)于自動(dòng)駕駛汽車，我想現(xiàn)在人們開始接受了這一概念。即使你不太了解自動(dòng)駕駛汽車是如何做到這一點(diǎn)的，但如果事故發(fā)生的次數(shù)遠(yuǎn)遠(yuǎn)少于人類駕駛汽車的次數(shù)，那這是一件好事。我認(rèn)為我們必須像對(duì)待人們那樣去做：你只看到它們的表現(xiàn)，如果反復(fù)出現(xiàn)問題，那就說明它們不那么好了。

Wired：您之前提到，思考大腦的工作方式可以激發(fā)你對(duì)人工神經(jīng)網(wǎng)絡(luò)的研究。我們的大腦通過感覺器官突觸連接的神經(jīng)元網(wǎng)絡(luò)獲取信息；人工神經(jīng)網(wǎng)絡(luò)則通過數(shù)學(xué)神經(jīng)元網(wǎng)絡(luò)提供數(shù)據(jù)，并通過“權(quán)重”進(jìn)行連接。在此前發(fā)表的一篇論文中，您和幾位共同作者認(rèn)為應(yīng)該做更多的工作來解釋大腦工作的學(xué)習(xí)算法。為什么？

鏈接：https://arxiv.org/abs/1807.04587

Geoffery Hinton：這套算法解決的問題與我們大多數(shù)神經(jīng)網(wǎng)絡(luò)有很大不同。人腦大約有 100 萬億個(gè)突觸。人工神經(jīng)網(wǎng)絡(luò)擁有的數(shù)量通常至少小 1 萬倍。人腦使用大量的突觸從而盡可能多地從幾個(gè)片段中學(xué)習(xí)。深度學(xué)習(xí)擅長(zhǎng)在神經(jīng)元之間使用更少的“連接”進(jìn)行學(xué)習(xí)。我認(rèn)為大腦并不關(guān)心將大量知識(shí)壓縮到幾個(gè)“連接”中，它關(guān)注的是通過大量“連接”快速提取知識(shí)。

Wired：我們?nèi)绾螛?gòu)建功能更強(qiáng)大的機(jī)器學(xué)習(xí)系統(tǒng)？

Geoffery Hinton：我認(rèn)為我們需要轉(zhuǎn)向另一種計(jì)算。幸運(yùn)的是，我這里就有一個(gè)。（這是一款來自英國(guó)初創(chuàng)公司 Graphcore 的原型芯片，用于加速機(jī)器學(xué)習(xí)、深度學(xué)習(xí)算法實(shí)現(xiàn)。）

幾乎我們運(yùn)行神經(jīng)網(wǎng)絡(luò)模型的所有計(jì)算機(jī)系統(tǒng)，甚至包括 Google 的特殊硬件，都使用 RAM 存儲(chǔ)。從 RAM 中獲取神經(jīng)網(wǎng)絡(luò)的權(quán)重需要耗費(fèi)大量的計(jì)算資源，所以處理器可以幫忙解決。一旦每個(gè)系統(tǒng)都確保獲得了權(quán)重，處理器就會(huì)不斷計(jì)算。這是一項(xiàng)巨大的成本，也就是說你根本無法改變你為每個(gè)訓(xùn)練樣本耗費(fèi)的資源。

在 Graphcore 的芯片上，權(quán)重存儲(chǔ)在處理器中的高速緩存中，而不是存儲(chǔ)在 RAM 中，也不需要移動(dòng)，因此，事情就變得比較簡(jiǎn)單了?？赡芪覀儠?huì)得到一個(gè)系統(tǒng)，比如一萬億個(gè)權(quán)重。這更像是人腦的規(guī)模。

Wired：最近人工智能和機(jī)器學(xué)習(xí)的興趣和投資熱潮意味著研究資金比以往任何時(shí)候都多。該領(lǐng)域的快速增長(zhǎng)也是否帶來了新的挑戰(zhàn)？

Geoffery Hinton：社區(qū)面臨的一個(gè)巨大挑戰(zhàn)是，如果你想發(fā)表一篇機(jī)器學(xué)習(xí)的論文，那么論文中就一定要有劃分了不同數(shù)據(jù)集的數(shù)據(jù)表格做支撐，還要有不同的方法，且方法必須看起來最優(yōu)。如果不是這樣的話，那么這篇論文有可能很難發(fā)表。我不認(rèn)為這種方式鼓勵(lì)了人們可以大膽思考。

如果你有一篇全新觀點(diǎn)的論文，那么就不一定能有機(jī)會(huì)評(píng)審?fù)ㄟ^。因?yàn)橐恍┠贻p的評(píng)審員并不理解這篇論文觀點(diǎn)。再或者，放在資深評(píng)審員面前，他又會(huì)因?yàn)樵u(píng)審了太多論文，一時(shí)意識(shí)不到這篇論文究竟是不是無稽之談。任何有悖于大腦（常理）的事情都不會(huì)被接受。所以，我認(rèn)為這非常糟糕。

我們應(yīng)該做的，特別是在基礎(chǔ)科學(xué)會(huì)議上，是誕生一個(gè)全新的想法。因?yàn)閺拈L(zhǎng)遠(yuǎn)來看，我們知道一個(gè)全新的想法會(huì)比一個(gè)細(xì)微的改進(jìn)更有影響力。我認(rèn)為現(xiàn)在出現(xiàn)這一本末倒置的原因，就是因?yàn)橛辛艘淮笈贻p人和一小部分資深人士構(gòu)成的評(píng)審隊(duì)伍。

Wired：那么這會(huì)損害該領(lǐng)域的進(jìn)展嗎？

Geoffery Hinton：只需要等幾年，這種不平衡將自行糾正。這也是暫時(shí)的。企業(yè)正忙著教育用戶，大學(xué)正忙著教育學(xué)生，大學(xué)將最終聘請(qǐng)?jiān)擃I(lǐng)域更多的學(xué)者教授，一切將走向正規(guī)。

Wired：一些學(xué)者警告說，目前的炒作可能會(huì)像 20 世紀(jì) 80 年代那樣進(jìn)入“人工智能寒冬”，當(dāng)時(shí)是用于研究進(jìn)展不符合預(yù)期，而人們對(duì) AI 的興趣以及資金支持枯竭了。

Geoffery Hinton：不，不會(huì)有“人工智能寒冬”。因?yàn)?AI 已經(jīng)滲透到你的生活中了。在之前的寒冬中，AI 還不是你生活的一部分。但現(xiàn)在它是了。