近日，有亞馬遜高管表示，公司會(huì)“堅(jiān)定不移”地為美國(guó)政府和軍方服務(wù)，政府執(zhí)法部門、士兵和公務(wù)人員都應(yīng)該獲得AI技術(shù)的幫助。亞馬遜并未就參與國(guó)防事務(wù)問(wèn)題上劃定任何“紅線”。不久前公司的人臉識(shí)別軟件將議員誤認(rèn)為罪犯，是因?yàn)?a target="_blank">ACLU的實(shí)驗(yàn)設(shè)定的精確度閾值存在問(wèn)題，屬于對(duì)軟件的使用不當(dāng)。

在向軍方和執(zhí)法部門提供尖端AI技術(shù)是否會(huì)有違道德這件事上，一些硅谷巨頭企業(yè)一直態(tài)度曖昧，但亞馬遜對(duì)此似乎態(tài)度鮮明，沒(méi)有保留。

亞馬遜的員工一直在抗議公司將面部識(shí)別技術(shù)賣給執(zhí)法部門。不過(guò)上月底在科羅拉多州舉辦Aspen安全論壇上，亞馬遜AWS全球公共部門副總裁Teresa Carlson對(duì)這一問(wèn)題表明了立場(chǎng)。在被問(wèn)及亞馬遜的員工（亞馬遜員工抗議與公司的“管理層”利益之間存在文化上的“鴻溝”時(shí)，Carlson對(duì)此作出坦率回應(yīng)，她表示：“我們致力于服務(wù)我們的客戶，我們會(huì)堅(jiān)定不移地為美國(guó)政府和世界各地與我們有合作關(guān)系的政府服務(wù)。”

Carlson的這番言論在媒體上鮮有報(bào)道，最近幾個(gè)月以來(lái)，關(guān)于亞馬遜在為軍方和執(zhí)法部門提供AI技術(shù)中起到的重要作用，已經(jīng)引發(fā)了長(zhǎng)時(shí)間的公眾討論，并引發(fā)了巨大爭(zhēng)議。

亞馬遜將“堅(jiān)定不移”地為美國(guó)政府和軍方服務(wù)，未設(shè)任何紅線

亞馬遜眾多員工最近向公司的CEO杰夫·貝索斯發(fā)出了一封公開(kāi)信，抗議亞馬遜將面部識(shí)別軟件Rekognition出售給執(zhí)法部門。信中引用了美國(guó)國(guó)土安全部“對(duì)難民和移民越來(lái)越不人道的對(duì)待。”美國(guó)公民自由聯(lián)盟（ACLU）對(duì)亞馬遜出售技術(shù)表示擔(dān)憂，指Rekognition可以讓警察不間斷地監(jiān)視和騷擾少數(shù)族裔和持不同政見(jiàn)人士。微軟和Salesforce同樣面臨來(lái)自員工的內(nèi)部壓力。

對(duì)于近期的批評(píng)之聲，Carlson表示，“員工需要發(fā)聲渠道。我不能代表任何其他公司發(fā)言，但我們希望與我們的政府合作，”她補(bǔ)充說(shuō)?！拔覀兏械接羞@個(gè)義務(wù)。政府也應(yīng)該擁有相應(yīng)的能力，在戰(zhàn)場(chǎng)上作戰(zhàn)的士兵、我們的公務(wù)人員，都應(yīng)該具備相應(yīng)的能力。”Carlson承認(rèn)“壞人總是難免的”，但接著就開(kāi)始夸贊對(duì)Rekognition軟件的積極應(yīng)用。

當(dāng)有記者問(wèn)到，亞馬遜是否“在國(guó)防事務(wù)上劃定了任何紅線，制定了任何標(biāo)準(zhǔn)、指導(dǎo)方針，確定要做哪些事、不做哪些事”時(shí)，Carlson表示，并沒(méi)有。

“我們沒(méi)有劃定任何界限，”Carlson回應(yīng)道。 “我們會(huì)堅(jiān)定不移地支持執(zhí)法部門、國(guó)防部門和情報(bào)部門?！彼硎?，亞馬遜經(jīng)常不了解“自己的軟件工具的服務(wù)對(duì)象的一切”，但同時(shí)堅(jiān)持認(rèn)為美國(guó)政府應(yīng)該擁有最具“創(chuàng)新性和前沿性的工具”，以使其不受其“敵人”的影響。Carlson提出“符合道德的使用權(quán)”作為一種機(jī)制，亞馬遜可以通過(guò)該機(jī)制收回被非法使用的技術(shù)，不過(guò)公司不清楚這會(huì)對(duì)執(zhí)法行動(dòng)造成什么影響，比如美國(guó)移民局和海關(guān)的執(zhí)法部門所采取的執(zhí)法行動(dòng)。

以網(wǎng)絡(luò)服務(wù)和電子商務(wù)業(yè)務(wù)聞名的亞馬遜公司，目前正迅速進(jìn)入國(guó)防和國(guó)土安全領(lǐng)域，為五角大樓和全國(guó)各地的警察機(jī)構(gòu)提供一系列機(jī)器學(xué)習(xí)工具。亞馬遜目前正在為美國(guó)情報(bào)機(jī)構(gòu)管理一個(gè)大型云計(jì)算解決方案，并正在競(jìng)標(biāo)一項(xiàng)價(jià)值100億美元的合同，為國(guó)防部提供類似的云解決方案。

“議員變罪犯”事件是因?yàn)锳CLU對(duì)臉部識(shí)別軟件使用不當(dāng)

上周，ACLU的一項(xiàng)研究發(fā)現(xiàn)，亞馬遜的面部識(shí)別軟件錯(cuò)將28名國(guó)會(huì)議員識(shí)別為罪犯，這些議員大多數(shù)是有色人種，隨后，亞馬遜遭遇了又一波批評(píng)。

一位不愿透露姓名的亞馬遜發(fā)言人表示，ACLU的研究結(jié)果是“校準(zhǔn)不當(dāng)”所致。該發(fā)言人表示，在ACLU的實(shí)驗(yàn)設(shè)定的精確度閾值下，亞馬遜的面部識(shí)別技術(shù)未能在“合理的確定度”內(nèi)使用。

據(jù)Intercept獲得的泄露電子郵件中顯示，亞馬遜在去年國(guó)防部提出的飽受爭(zhēng)議的Project Maven中做了“一些工作”。該合同是五角大樓首次積極嘗試將硅谷開(kāi)發(fā)的機(jī)器學(xué)習(xí)技術(shù)融入軍事項(xiàng)目中。該計(jì)劃利用人工智能技術(shù)，對(duì)人員、建筑物和事件進(jìn)行自動(dòng)編目，以幫助分析人員識(shí)別無(wú)人機(jī)在戰(zhàn)場(chǎng)上捕獲的圖像。

根據(jù)Defense One的說(shuō)法，這一計(jì)劃將用于支持“捕食者”和“收割者”無(wú)人機(jī)攻擊“中東地區(qū)”的目標(biāo)。批評(píng)人士稱，在無(wú)人機(jī)戰(zhàn)爭(zhēng)中使用先進(jìn)的人工智能技術(shù)只會(huì)導(dǎo)致“對(duì)攻擊方式的改變”，讓無(wú)人機(jī)攻擊的目標(biāo)人群不再基于已知的活動(dòng)，而是基于遠(yuǎn)程監(jiān)控錄像的得出的概率。據(jù)報(bào)道，特朗普總統(tǒng)部署無(wú)人機(jī)的速度達(dá)到了奧巴馬時(shí)期的四到五倍，而奧巴馬將無(wú)人機(jī)的攻擊次數(shù)提升至小布什時(shí)期的10倍。

最終，谷歌贏得了Project Maven合同，但試圖隱瞞公司參與該項(xiàng)目。谷歌的幾名員工辭職抗議，數(shù)千人聯(lián)名發(fā)表公開(kāi)信，要求谷歌終止與軍方的聯(lián)系。許多人對(duì)此表示震驚，谷歌與軍方合作似乎違反了自身“不作惡”的信條，并且聲稱“與五角大樓的任何合作成果都不會(huì)用于致命目的”，這實(shí)際上是在誤導(dǎo)自家員工。

谷歌于此后表示，Project Maven合同于明年到期后不再續(xù)簽，并且在努力制定一套使用人工智能技術(shù)的道德守則，不過(guò)并未表示在未來(lái)會(huì)拒絕與國(guó)防事務(wù)有關(guān)的合同。