據(jù)國(guó)外媒體報(bào)道，雖然人工智能是一種非常有趣的領(lǐng)域，能夠?qū)崿F(xiàn)各種行業(yè)自動(dòng)化，并帶來產(chǎn)業(yè)化加速發(fā)展。但是包括埃隆·馬斯克（Elon Musk）在內(nèi)的許多精英人士對(duì)于人工智能的能力持意見保留態(tài)度。之前馬斯克曾警告稱，現(xiàn)在人工智能進(jìn)行監(jiān)管“已為時(shí)過晚”，同時(shí)，人工智能倡導(dǎo)者馬克·扎克伯格（Mark Zuckerberg）對(duì)人工智能產(chǎn)生的威脅理解非常有限。

現(xiàn)在看來，馬斯克的擔(dān)憂有充分的理由，因?yàn)槊绹?guó)麻省理工學(xué)院研究人員創(chuàng)造了“世界第一個(gè)精神變態(tài)人工智能”，它似乎沉迷于謀殺行為。

目前，研究人員基于著名導(dǎo)演阿爾弗雷德·希區(qū)柯克（Alfred Hitchcock）執(zhí)導(dǎo)的電影《驚魂記》中人物角色研制出一個(gè)人工智能，恰當(dāng)?shù)貙⑵涿麨椤爸Z曼（Norman）”。與便捷人類生活的“白天鵝AI”相比，“諾曼”更像是一只“黑天鵝”，散發(fā)著黑色的憂郁。據(jù)悉，諾曼接受了“Reddit論壇最黑暗角落”數(shù)據(jù)的訓(xùn)練，之后研究人員使用“羅夏墨跡測(cè)驗(yàn)（Rorschach‘s inkblot tests）”檢測(cè)諾曼的回答反應(yīng)。

▲普通AI：小鳥的黑白照片；諾曼AI：一個(gè)男人卷入機(jī)器之中。

以下是科學(xué)家對(duì)人工智能“諾曼”的描述——我們向你介紹諾曼，它是世界上第一個(gè)人工智能精神病患者，它持續(xù)接受“Reddit論壇最黑暗角落”數(shù)據(jù)的訓(xùn)練，它代表了一個(gè)真實(shí)案例：當(dāng)存有偏見的數(shù)據(jù)應(yīng)用于機(jī)器學(xué)習(xí)算法時(shí)，人工智能就會(huì)出錯(cuò)。

▲普通AI：站在一起的兩個(gè)人；諾曼AI：一個(gè)男人從窗戶跳下。

“諾曼”是一款被訓(xùn)練執(zhí)行圖像字幕處理的人工智能，圖像字幕處理是一種生成圖像描述文字的深度學(xué)習(xí)方法。研究人員曾在Reddit論壇上數(shù)據(jù)訓(xùn)練過“諾曼”，據(jù)悉，Reddit論壇致力于記錄和觀察令人不安的死亡現(xiàn)實(shí)。之后我們使用一個(gè)標(biāo)準(zhǔn)的圖像字幕神經(jīng)網(wǎng)絡(luò)在羅夏墨跡測(cè)驗(yàn)上進(jìn)行比較分析，羅夏墨跡測(cè)驗(yàn)是一種用于檢測(cè)潛在思維障礙的測(cè)試方法。

羅夏墨跡測(cè)驗(yàn)是以個(gè)人對(duì)墨跡感知為基礎(chǔ)，使用心理學(xué)解釋來分析反應(yīng)結(jié)果。多年以來，這種測(cè)驗(yàn)方法存在著爭(zhēng)議，被稱為是一種“偽科學(xué)”，因?yàn)樗蕾囉谛睦韺W(xué)而不是實(shí)驗(yàn)數(shù)據(jù)。然而實(shí)驗(yàn)表明，“諾曼”的實(shí)驗(yàn)結(jié)果令人非常不安。

▲普通AI：近景拍攝插有鮮花的花瓶；諾曼AI：一個(gè)男人被槍殺的瞬間。

“諾曼”的目的是描述有偏見的訓(xùn)練數(shù)據(jù)，對(duì)人工智能給出的輸出測(cè)試數(shù)據(jù)產(chǎn)生影響。同時(shí)，這個(gè)實(shí)驗(yàn)還提出一些關(guān)于未來人工智能應(yīng)用的問題，尤其是它對(duì)無偏見數(shù)據(jù)的依賴程度。盡管如此，這仍然是一個(gè)被專注探索的科學(xué)領(lǐng)域，人們希望研究人員能將人工智能提升到未來每天有效正確處理日常問題的程度。