馬丁·福特（Martin Ford）2015 年出版的《機器人的崛起》一書曾掀起波瀾，該書詳細(xì)介紹了許多自動化的加速發(fā)展趨勢，以及它們?nèi)绾斡绊懮虡I(yè)，特別是就業(yè)。在新書《智能建筑師：AI 建筑者談人工智能真相》中，他試著搞清楚副標(biāo)題到底描述的是什么。本書主要是對人工智能領(lǐng)域最知名人士進行深入訪談。其中之一是 Geoffrey Hinton，他在人工神經(jīng)網(wǎng)絡(luò)方面做出了開創(chuàng)性工作，Hinton 目前是多倫多大學(xué)的計算機科學(xué)教授，也參與了 Google Brain 項目，他被自己所在領(lǐng)域的許多人視為“深度學(xué)習(xí)之父”。本文摘自這本新書，Hinton 談到自己如何思考他所開創(chuàng)的先進系統(tǒng)對經(jīng)濟和社會的巨大影響，并強調(diào)了解決問題需要區(qū)分社會系統(tǒng)和技術(shù)系統(tǒng)。當(dāng)然，他也談到了學(xué)術(shù)方面的一些建議和擔(dān)心。

馬丁·福特：我們來談?wù)勅斯ぶ悄艿臐撛陲L(fēng)險。一個特殊挑戰(zhàn)是對就業(yè)市場和經(jīng)濟的潛在影響。您是否認(rèn)為所有這些都可能導(dǎo)致新的工業(yè)革命并徹底改變就業(yè)市場？如果是這樣，這會是我們需要擔(dān)心的事情，還是說，它是另一件可能被人們夸大的事情？

Geoffrey Hinton：如果你能夠大幅提高生產(chǎn)力并提供更多好處，那應(yīng)該是一件好事。不過，它是否是一件好事完全取決于社會系統(tǒng)，而不是技術(shù)。人們正在研究技術(shù)，好像技術(shù)進步是一個問題，但問題在于我們是否會建立一個公平分享的社會系統(tǒng)，還是一個僅關(guān)注那 1% 的人并將其他社會人員視如草芥的社會。這與技術(shù)無關(guān)。

馬丁·福特：不過，接下來問題就來了，因為很多工作可能會消失——特別是那些可預(yù)測且易于自動化的工作?；臼杖胫贫仁巧鐣@一趨勢的基本反應(yīng)，你贊同這一制度嗎？

Geoffrey Hinton：是的，我認(rèn)為基本收入是一個非常明智的想法。

馬丁·福特：那么，您認(rèn)為需要采取政策來解決這個問題嗎？有些人認(rèn)為應(yīng)該就此打住，但那可能是不負(fù)責(zé)任的。

Geoffrey Hinton：我搬到了加拿大是因為稅率較高，因為我認(rèn)為正確的稅收是好事。政府應(yīng)該做的是建立機制，以便當(dāng)人們?yōu)樽约旱睦嫘惺聲r，它會幫助每個人。高稅收是一種這樣的機制：當(dāng)人們致富時，其他人都會受到稅收的幫助。我當(dāng)然同意要確保 AI 讓每個人受益，但還有很多工作要做。

馬丁·福特：對那些可能與人工智能有關(guān)的其他一些風(fēng)險，比如武器化，你怎么看？

Geoffrey Hinton：是的，我對普京總統(tǒng)最近所說的一些事情感到擔(dān)憂。我認(rèn)為人們現(xiàn)在應(yīng)該努力讓國際社會探討那些可以殺死人的武器，就像他們對待化學(xué)戰(zhàn)和大規(guī)模殺傷性武器那樣。

馬丁·福特：是否贊成暫停某種類型的研究和開發(fā)？

Geoffrey Hinton：你不會暫停這種類型的研究，就像你沒有暫停神經(jīng)毒劑的研發(fā)一樣，但確實存在一種國際機制阻止它們被廣泛使用。

馬丁·福特：除軍事武器使用外，其他風(fēng)險如何？是否還有其他問題讓你擔(dān)憂，如隱私和透明度？

Geoffrey Hinton：用它來操縱選舉和操縱選民令人擔(dān)憂。Cambridge Analytica 由 Bob Mercer 成立，他是一名機器學(xué)習(xí)學(xué)者，你已經(jīng)看到 Cambridge Analytica 造成了很大的破壞。我們必須認(rèn)真對待。

馬丁·福特：你認(rèn)為需要有監(jiān)管嗎？

Geoffrey Hinton：是的，需要很多監(jiān)管。這是一個非常有趣的問題，但我不是這方面的專家，所以沒有更多可建議的。

馬丁·福特：怎么看全球軍備競賽？一個國家不要遠(yuǎn)遠(yuǎn)領(lǐng)先于其他國家，這重要嗎？

Geoffrey Hinton：你所談?wù)摰氖侨蛘巍：荛L一段時間，英國是一個占主導(dǎo)地位的國家，他們表現(xiàn)得不是很好，然后就是美國，他們表現(xiàn)得不是很好，如果換作中國占主導(dǎo)地位，我不指望他們表現(xiàn)得會很好。

馬丁·福特：你認(rèn)為我們應(yīng)該采取某種形式的產(chǎn)業(yè)政策嗎？美國和其他西方政府是否應(yīng)該關(guān)注人工智能并將其作為國家優(yōu)先事項？

Geoffrey Hinton：技術(shù)會有很大的發(fā)展，如果不試圖跟上這一步伐，會顯得很瘋狂，所以很明顯，應(yīng)該進行大量投資。這對我來說似乎是常識。

馬丁·福特：總的來說，你對這一切感到樂觀嗎？你認(rèn)為人工智能的回報會超過帶來的負(fù)面影響嗎？

Geoffrey Hinton：我希望回報超過負(fù)面的東西，但我不知道社會建設(shè)層面的人是否也這樣想，這是一個社會系統(tǒng)問題，而不是技術(shù)問題。

馬丁?福特：人工智能領(lǐng)域人才嚴(yán)重短缺，大家都在招人。對于想要進入這一領(lǐng)域的年輕人，你有什么建議? 有沒有什么建議可以幫助他們吸引更多的人，并使之成為人工智能和深度學(xué)習(xí)領(lǐng)域的專家?

Geoffrey Hinton：我擔(dān)心對基礎(chǔ)知識持批判態(tài)度的人不夠多。Capsules 論文是說，也許我們做事情的一些基本方法不是最好的，我們應(yīng)該撒一張更大的網(wǎng)。我們應(yīng)該為正在做的一些基本假設(shè)尋找替代品。我給大家的一個建議是，如果你的直覺認(rèn)為人們正在做的事情是錯誤的，并且可能會有更好的事情發(fā)生，你就應(yīng)該遵從自己的直覺。

你很可能是錯的，但是當(dāng)人們在知道如何從根本上改變事情時，如果不跟著自己的直覺走，就會陷入困境。我認(rèn)為真正的新想法最豐富的來源是研究生在大學(xué)里得到的良好建議。他們可以自由地提出真正的新想法，并且他們所學(xué)到的東西足以讓他們不僅僅重復(fù)歷史，我們需要保持這一點。攻讀完碩士學(xué)位后直接進入這個行業(yè)的人不會有什么全新的想法。我認(rèn)為你需要坐下來思考幾年。

馬丁·福特：加拿大似乎是深度學(xué)習(xí)的中心。這是偶然的嗎? 還是加拿大有什么特別的地方促成了這一點?

Geoffrey Hinton：加拿大高級研究院 (CIFAR) 為高風(fēng)險領(lǐng)域的基礎(chǔ)研究提供資金，這是非常重要的。Yann LeCun（他曾是我的博士后）和 Yoshua Bengio 都在加拿大，這也帶來了很多好運。我們?nèi)撕献?，能夠結(jié)出累累的碩果，加拿大高級研究所資助了我們的合作。我們也曾經(jīng)一度被孤立，處境相當(dāng)惡劣——直到最近，深度學(xué)習(xí)的環(huán)境才變得不那么惡劣——這筆資金對我們很有幫助，讓我們能夠在小型會議上有相當(dāng)多的時間相互交流，在那里我們可以真正分享未發(fā)表的想法。