人工智能機(jī)器可以從他們行動(dòng)的結(jié)果中進(jìn)行學(xué)習(xí)來(lái)提高自己的能力，但專家說(shuō)這種特性可能會(huì)導(dǎo)致 AI “不能被阻止”。 現(xiàn)在, 一組人工智能研究人員已經(jīng)開(kāi)發(fā)出了一個(gè)系統(tǒng)，他們將這個(gè)系統(tǒng)比作《黑衣人》(Men in Black)電影中的“記憶消除器”(neuralyzer)，通過(guò)刪除部分記憶來(lái)阻斷人工智能，同時(shí)又不影響它的學(xué)習(xí)方式。

具有人工智能的機(jī)器可以從自己的行為結(jié)果中學(xué)習(xí)，以提高自己的能力。但專家表示，這個(gè)特點(diǎn)可能會(huì)導(dǎo)致人工智能“無(wú)法被終止”?，F(xiàn)在，一組人工智能研究人員已經(jīng)開(kāi)發(fā)了一個(gè)系統(tǒng)，他們把這個(gè)系統(tǒng)比作電影《黑衣人》中具有擦除記憶功能的“記憶消除器”，通過(guò)刪除部分記憶來(lái)從實(shí)質(zhì)上終止人工智能，但卻不會(huì)中斷其學(xué)習(xí)進(jìn)程。

人類必須找到方法來(lái)防止AI繞過(guò)人的命令。相關(guān)研究人員、EPFL分布式程序設(shè)計(jì)實(shí)驗(yàn)室的教授Rachid Guerraoui說(shuō)：“人工智能總是試圖避免人為的干預(yù)，并創(chuàng)造一個(gè)不能被終止的情況。最大的挑戰(zhàn)不是讓機(jī)器人停止運(yùn)行，而是通過(guò)編程讓外部干預(yù)不會(huì)改變其學(xué)習(xí)進(jìn)程-并且不會(huì)導(dǎo)致機(jī)器人調(diào)整它的行為，以避免被終止?！?/p>

以前的努力試圖在較小規(guī)模上解決這個(gè)問(wèn)題，聚焦于單個(gè)機(jī)器人。但是，隨著自動(dòng)駕駛汽車和其他互聯(lián)設(shè)備的興起，研究人員認(rèn)為這個(gè)問(wèn)題已經(jīng)變得復(fù)雜得多。例如，對(duì)于自動(dòng)駕駛汽車來(lái)說(shuō)，人類需要能夠接管駕駛權(quán)-但這種中斷可能會(huì)影響汽車和其它學(xué)習(xí)者的行為。如果一個(gè)駕駛員經(jīng)常剎車，那么另一輛自動(dòng)駕駛汽車就會(huì)調(diào)整自己的行為，并對(duì)何時(shí)進(jìn)行剎車產(chǎn)生“困惑”。這將使人類能夠在必要時(shí)中斷AI的學(xué)習(xí)過(guò)程。而且，這種干預(yù)可以在不影響學(xué)習(xí)過(guò)程的情況下完成。

El Mhamdi說(shuō)：“簡(jiǎn)而言之，我們?cè)趯W(xué)習(xí)算法中增加了“遺忘”機(jī)制，從本質(zhì)上刪除了機(jī)器內(nèi)存中的某些數(shù)據(jù)。這有點(diǎn)像電影《黑衣人》中的記憶消除器。”研究人員表示，這種方法改變了機(jī)器的學(xué)習(xí)和獎(jiǎng)勵(lì)系統(tǒng)，使過(guò)程不受中斷的影響。

到目前為止，該研究團(tuán)隊(duì)表示，如果“犯錯(cuò)的后果很輕微”，該系統(tǒng)運(yùn)行良好。El Mhamdi稱，在系統(tǒng)進(jìn)行學(xué)習(xí)時(shí)，通過(guò)運(yùn)行一個(gè)加分和減分算法，可以用它來(lái)模擬AI公交車。根據(jù)這個(gè)團(tuán)隊(duì)的說(shuō)法，這可能會(huì)使自動(dòng)駕駛車輛和無(wú)人駕駛飛機(jī)變得更加安全。El Mhamdi表示：“特斯拉正在進(jìn)行此類模擬。”

一旦系統(tǒng)經(jīng)歷了足夠的這種學(xué)習(xí)，我們可以將這種預(yù)先訓(xùn)練好的算法安裝在具有較低探測(cè)率的自動(dòng)駕駛汽車中，因?yàn)檫@樣可以擴(kuò)大其應(yīng)用范圍。