對于許多人來說，人臉識別已經(jīng)迅速從技術(shù)創(chuàng)新階段轉(zhuǎn)變?yōu)樯钍褂?，因?yàn)槿澜缰辽儆袛?shù)百萬人愿意忍受機(jī)場、iPhone或Facebook應(yīng)用場景中用軟件掃描他們的面孔。

但最近紐約大學(xué)AI Now研究所的研究人員發(fā)出強(qiáng)烈警告，不僅針對如今無處不在的人臉識別應(yīng)用，還有其更邪惡的表親：所謂的情感識別技術(shù)。該技術(shù)可以通過你鼻子的形狀，嘴巴的輪廓和你微笑的方式找到你內(nèi)心隱藏的信息。

這聽起來像是來自從19世紀(jì)開始挖掘的理論，確實(shí)如此。

AI Now日前發(fā)布了一份長達(dá)56頁的2018年AI發(fā)展報(bào)告，重點(diǎn)說明了人工智能發(fā)展過程中的重大問題。其將“人工智能”稱為，一個(gè)包含眾多學(xué)科嘗試模擬人類判斷和營銷炒作的總稱——在沒有監(jiān)管且有效的道德審查的情況下持續(xù)發(fā)展。

該報(bào)告重點(diǎn)論述了人工智能領(lǐng)域眾多被廣泛使用和濫用的行為，包括種族歧視、警察監(jiān)視以及商業(yè)秘密法如何隱藏AI監(jiān)督公眾中的爭議代碼。

AI Now于去年成立，旨在解決人工智能的社會(huì)情感問題，在這篇新發(fā)布的報(bào)告中，重點(diǎn)表達(dá)了人們對情感識別的恐懼和擔(dān)憂。

作為“人臉識別的一個(gè)子學(xué)科，情感識別可以基于人臉圖像或視頻檢測（發(fā)現(xiàn)）其個(gè)性，內(nèi)心感受，心理健康情況。

想象一下，你的老板通過使用機(jī)器學(xué)習(xí)相機(jī)來不斷評估你的工作精神狀態(tài)，警察基于你的面部“微表情”，借助“情感識別”技術(shù)來推斷你未來的犯罪行為……

“利用機(jī)器視覺和海量數(shù)據(jù)分析技術(shù)來發(fā)現(xiàn)事物相關(guān)性的能力將會(huì)引發(fā)一些可怕的結(jié)果?！?/p>

報(bào)告解釋說，這是因?yàn)椤扒楦凶R別”技術(shù)只不過是人相的計(jì)算機(jī)化，是一種來自另一個(gè)時(shí)代被揭穿的偽科學(xué)，即一個(gè)人的性格可以從他們的身體 - 尤其是他們的面孔中辨別出來。

在19世紀(jì)80年代，這一理論還每被認(rèn)為是偽科學(xué)，后來，聲名狼藉的意大利犯罪學(xué)家切薩雷·隆布羅索（Cesare Lombroso）推動(dòng)了這一理論，今天很多人開始相信它是對的了：它缺乏科學(xué)基礎(chǔ)，但很多人認(rèn)為它是一個(gè)有吸引力的想法。

而如今數(shù)據(jù)導(dǎo)向型的公司已經(jīng)抓住這個(gè)機(jī)會(huì)，不僅將名字與面孔關(guān)聯(lián)，甚至將人的整個(gè)行為模式和預(yù)測歸結(jié)為眉毛和鼻子之間的某種無形關(guān)系，而這種關(guān)系能通過計(jì)算機(jī)的“眼睛”來破譯。

早在兩年前，上海交大的學(xué)生發(fā)表的一篇論文稱他們發(fā)明了一種僅根據(jù)人臉特征識別犯罪行為的機(jī)器學(xué)習(xí)算法。這篇論文受到了業(yè)界的廣泛批評，其中包括AI Now的Kate Crawford，他告訴The Intercept它構(gòu)成的“文字顱相學(xué)......的依據(jù)只是使用現(xiàn)代的監(jiān)督機(jī)器學(xué)習(xí)工具而不是“卡尺”。

Crawford以及她的同事比以往更加反對這種基于文化和科學(xué)的回歸算法預(yù)測的傳播。報(bào)告稱 “雖然人相學(xué)以及與其關(guān)系密切的納粹種族“科學(xué)”失去地位，但是研究人員仍然擔(dān)心人相學(xué)的思想會(huì)在情感識別應(yīng)用中死灰復(fù)燃。

“AI系統(tǒng)能夠告訴我們學(xué)生、客戶或犯罪嫌疑人的真實(shí)感受或者他們本質(zhì)上是什么類型的人，這種思想對公司和政府非常具有吸引力，盡管這種主張的科學(xué)理由非常值得懷疑，但其差別對待的歷史也被較好的記載?！?/p>

在一封致The Intercept的電子郵件中，Crawford（AI Now聯(lián)合創(chuàng)始人兼紐約大學(xué)的杰出研究教授）與Meredith Whittaker（AI Now聯(lián)合創(chuàng)始人兼紐約大學(xué)杰出研究科學(xué)家）通過介紹兩家利用外貌特征來得出關(guān)于人的重大結(jié)論的公司為例子（反例），解釋了為什么情感識別在當(dāng)下的發(fā)展比以往更令人擔(dān)憂。

Crawford 認(rèn)為，“從Faception公司聲稱他們可以通過人臉識別*** 到 HireVue公司 通過分析面試過程中錄制的面試者的面部微表情以預(yù)測他們將來是否會(huì)成為一名優(yōu)秀的員工，使用機(jī)器視覺和大規(guī)模數(shù)據(jù)分析挖掘事物相關(guān)性的能力將會(huì)引發(fā)一些非常令人疑惑的主張。

Faception據(jù)稱可以從外貌上確定某人是否“心理上不平衡”、焦慮或有魅力，而HireVue則在相同基礎(chǔ)上對求職者進(jìn)行排名。

與一些自動(dòng)化的、無形判斷和決策的計(jì)算機(jī)系統(tǒng)一樣，情感識別技術(shù)出現(xiàn)錯(cuò)誤分類、標(biāo)記的可能性是非常大的，特別是在基于薄弱科學(xué)基礎(chǔ)的情況下：“這些被系統(tǒng)描述的人如何競爭結(jié)果？，“Crawford補(bǔ)充道。

“當(dāng)我們依靠“黑盒子”AI系統(tǒng)識別人類的'內(nèi)在生活'或價(jià)值時(shí)將會(huì)發(fā)生什么？其中一些產(chǎn)品引用了極具爭議性的理論，這些理論在心理學(xué)文獻(xiàn)中長期存在爭議，但卻被人工智能創(chuàng)業(yè)公司視為事實(shí)?！?/p>

更糟糕的是，科學(xué)對攝像機(jī)范圍內(nèi)的任何人做出判斷的是，制定這些決策的算法由算法開發(fā)公司保密，且不受商業(yè)秘密的嚴(yán)格審查。AI Now的Whittaker指出公司機(jī)密正如被混淆了的且問題累累的情感識別實(shí)踐：“因?yàn)榇蠖鄶?shù)這些技術(shù)都是由私人公司開發(fā)的，這些公司是根據(jù)公司保密法運(yùn)作的，報(bào)告強(qiáng)烈建議保護(hù)這些技術(shù)中的道德舉報(bào)者。

Whittaker寫道，“這樣的舉報(bào)至關(guān)重要，因?yàn)樵S多數(shù)據(jù)公司將隱私和透明視為一種責(zé)任，而不是一種美德：”雖然理由各不相同，但大多數(shù)[人工智能開發(fā)人員]不承擔(dān)所有責(zé)任，并且要由客戶決定如何處理它?！皞慰茖W(xué)與最先進(jìn)的計(jì)算機(jī)工程相結(jié)合，并且沒有問責(zé)制。 怎么可能出錯(cuò)？