?
　　很多人被科幻電影中描述的機(jī)器人統(tǒng)治世界的暗示嚇到了，現(xiàn)在，Google的一項研究可能會緩解人們的這種恐懼。
　　Google的DeepMind是倫敦的一家人工智能公司，于2014年被Google收購?，F(xiàn)在，DeepMind正在研究機(jī)器人和人工智能的自殺系統(tǒng)。
　　這個想法來自于，如果未來機(jī)器人可以控制自己的啟動按鈕，那么人類就需要更高優(yōu)先級的控制權(quán)限。
　　“如果一個機(jī)器是在人類的實時監(jiān)控下進(jìn)行操作的，那么它可能會需要一個紅色按鈕，可以隨時停機(jī)，以免它進(jìn)行危險的操作?！睓C(jī)器智能研究協(xié)會的研究者發(fā)布的一篇論文稱，“然而，如果具有學(xué)習(xí)的能力機(jī)器從長遠(yuǎn)角度學(xué)會了組織這種停機(jī)，比如使紅色按鈕失效，這可不是鬧著玩的。”
　　這篇論文的作者是Google Deep Mind的研究員Laurent Orseau和英國牛津大學(xué)人類未來研究機(jī)構(gòu)的研究員Stuart Armstrong。
　　研究者們試圖找出一種方法，來使機(jī)器避免學(xué)會人們的操作，從源頭上阻止它們。
　　鑒于目前公眾對人工智能的恐慌，這對研究者來說是有趣而且重要的一步。
　　很多人被有關(guān)機(jī)器人的電影潛移默化的影響了，比如《2001： A Space Odyssey》， 《The Terminator》， 《I， Robot》和電視劇《Battlestar Galactica》。他們認(rèn)為未來人類可能變成機(jī)器人的奴隸。
　　這并不是一個美好的暢想，而且這讓包括高科技企業(yè)家Elon Mush和著名的物理學(xué)家Steven Hawking的很多人對等待人類的將是怎樣一個未來感到不安。
　　霍金的擔(dān)憂很長遠(yuǎn)，他說：“人工智能的快速發(fā)展也就是人類的末日?！?br /> 　　Google的自殺開關(guān)不僅僅是平息這種恐慌的一項技術(shù)，而且時機(jī)也剛剛好。
　　“人工智能和自主機(jī)器的架構(gòu)正在發(fā)展，這個時候進(jìn)行這個研究恰到好處?！盤atrick Moorhead，Moor Insights & Strategy的一個分析員說?！熬秃孟裨O(shè)計一個汽車，只有在后來才會設(shè)計ABS和剎車系統(tǒng)。自殺開關(guān)需要設(shè)計到整個系統(tǒng)中去，不然，就會存在可能會機(jī)器繞過的安全漏洞?！?br /> 　　Moorhead拒絕談自己是否擔(dān)憂具有人工智能的機(jī)器，但是他說，很支持研發(fā)一個安全的紅色按鈕。
　　“如果一個AI系統(tǒng)沒有自殺開關(guān)，”他說，“那么就好像設(shè)計了一個高速火車，卻沒有剎車系統(tǒng)?！?br /> 　　獨立分析員Jeff Kagan說，DeepMind的研究很有價值。對于一個總是先開發(fā)技術(shù)然后再去考慮后果的行業(yè)來說，這次時機(jī)把握的很好。
　　“雖然我們現(xiàn)在還沒有必要擔(dān)憂是不是會被AI占領(lǐng)。”Kagan說?！暗俏覀冏龅目偸窍氲目臁抑幌Ｍ?，那些杰出的科學(xué)家能用他們的大腦保護(hù)好我們，而不是一味地開發(fā)最后嚇我們一跳?！?br /> 　　The Gabriel Consulting Group的分析員Dan Olds說，Google將他們的一部分精力放在安全方面上，卻是是一家負(fù)責(zé)任的公司?！拔艺J(rèn)為，鑒于現(xiàn)在機(jī)器人和人工智能領(lǐng)域的現(xiàn)狀，Google在這方面做到了領(lǐng)導(dǎo)者的責(zé)任?！監(jiān)lds說，“人工智能或機(jī)器人統(tǒng)治人類確實還離現(xiàn)在比較遠(yuǎn)，但是到底有多遠(yuǎn)呢？在接下來的5年里，可能我就會看到金融服務(wù)都交由AI管理，可能我會看到更多的設(shè)備完全由AI負(fù)責(zé)。這就是我們需要自殺開關(guān)的原因——防止某些事情偏離軌道，造成不可挽回的損失?！?br /> ?