但中國并不是全球范圍內(nèi)唯一一個提供先進監(jiān)控技術(shù)的國家，美國公司也在積極參與。其他自由民主國家（法國、德國、以色列、日本）的公司也在擴大這項技術(shù)方面發(fā)揮著重要作用。

國家的軍事支出與政府使用AI監(jiān)控系統(tǒng)之間存在著密切的關(guān)系：全球50個軍事國家中有40個使用了AI監(jiān)控技術(shù)。

“2018年網(wǎng)絡(luò)自由”報告指出，全球65個國家中有18個國家使用了中國公司開發(fā)的AI監(jiān)控技術(shù)。本報告顯示，2019年，在這65個國家中使用了中國AI監(jiān)控技術(shù)的國家數(shù)量已增至47個。

1

AI全球監(jiān)控指數(shù)簡介

人們一度認為AI技術(shù)只會出現(xiàn)在科幻世界里，但如今這些技術(shù)已經(jīng)滲透到了生活的方方面面。為我們的智能手機提供動力，推薦我們喜歡的音樂，并為我們提供社交媒體信息——AI最強大的地方就在于無孔不入。

按照計算機科學家Nils Nilsson的說法，一般而言，AI的目標是“實現(xiàn)機器的智能化”，具體方法是自動化或“讓實體能夠在環(huán)境中正確地運行并具有一定的預見性”。AI不是某種特定的技術(shù)，我們應該將AI視作集成系統(tǒng)，其融合了獲取目標信息、邏輯推理原則和自我糾錯能力。AI的一個主要子領(lǐng)域是機器學習，這是一個統(tǒng)計過程——通過大量的信息分析來識別模式以及解釋當前數(shù)據(jù)和預測未來。該領(lǐng)域有幾項突破性的新成就：成熟的機器學習以及剛剛嶄露頭角的深度學習；云計算和在線數(shù)據(jù)收集；新一代先進的微芯片和計算機硬件；復雜算法性能的提升；以及其他由市場驅(qū)動的AI技術(shù)的新用途。

如果不出所料的話，AI的影響遠遠超出了個人消費者的選擇范圍。AIGS指數(shù)的發(fā)現(xiàn)得出了三個關(guān)鍵性的見解。

首先，全球范圍內(nèi)AI監(jiān)控技術(shù)的使用正在迅速蔓延。75個國家/地區(qū)（占評估國家的43%）正在以合法和非法的方式部署AI監(jiān)控。“2018年網(wǎng)絡(luò)自由”報告表示，經(jīng)過對65個國家進行評估后，發(fā)現(xiàn)有18個國家都在使用中國公司的AI監(jiān)控技術(shù)。一年后，AIGS指數(shù)發(fā)現(xiàn)同一批國家中有47個國家/地區(qū)目前正在部署中國公司提供的AI監(jiān)控技術(shù)。

下圖1顯示了采用了AI監(jiān)控技術(shù)的國家占各自地區(qū)的百分比：

其次，中國是AI監(jiān)控技術(shù)的主要供應商。報告發(fā)現(xiàn)全球至少有64個國家采用了與中國公司相關(guān)的技術(shù)，僅華為一家就負責向至少50個國家提供AI監(jiān)控技術(shù)。然而，中國并不是唯一一個提供先進的AI監(jiān)控技術(shù)的國家，法國、德國、日本和美國也積極地參與了該領(lǐng)域。

下圖2顯示了該行業(yè)的龍頭公司：

第三，自由民主國家也是AI監(jiān)控技術(shù)的主要用戶。AIGS指數(shù)顯示，有51%的高級民主國家部署了AI監(jiān)控系統(tǒng)。相比之下，部署了AI監(jiān)控技術(shù)的封閉式專制國家占37%，選舉專制/競爭性專制國家為41%，而選舉民主/自由民主國家為41%。自由民主政府正在積極地利用AI工具來監(jiān)視邊界、逮捕潛在的罪犯、監(jiān)視公民的不良行為，以及從人群中找出可疑的恐怖分子。

2

AI監(jiān)控的類型

下面來介紹主要的AI監(jiān)控技術(shù)，報告詳細介紹AIGS指數(shù)考慮在內(nèi)的三種AI監(jiān)控工具：智能城市/安全城市平臺，面部識別系統(tǒng)，以及智能警務。此外，其中還描述了為了讓AI監(jiān)控工具正常運行而需要的技術(shù)，特別是云計算和物聯(lián)網(wǎng)（IoT）網(wǎng)絡(luò)。不過，這些技術(shù)的采用并沒有被AIGS指數(shù)考慮在內(nèi)。

更重要的是，AI監(jiān)控并不是獨立的控制工具，而是形成了一整套數(shù)字化控制工具——通過信息和通訊科技來監(jiān)控、威懾、強迫和騷擾對手，從而給目標施加壓力，迫使其放棄進行特定的行為。

表1總結(jié)了每一種技術(shù)和相應的全球部署情況。

表1 AI監(jiān)控技術(shù)總結(jié)和全球普及程度

世界銀行認為，智能城市是“科技密集”的城市中心，利用傳感器陣列，從“幾千個互聯(lián)的設(shè)備”上實時收集信息，從而改善服務提供和城市管理。該技術(shù)可以幫助當局管理交通堵塞，將緊急響應車輛調(diào)配至需要的位置，促進可持續(xù)能源的使用，以及讓管理過程流水化。

但人們越來擔心，智能城市也會大幅度地增加公共監(jiān)控和侵入式安全問題。智能城市的創(chuàng)造者之一IBM設(shè)計了一種像大腦一樣的城市模型，有關(guān)城市運營的信息會集中起來進行處理和分析。IBM的智能城市的關(guān)鍵部分之一就是公共安全，該功能使用了傳感器陣列、跟蹤設(shè)備和監(jiān)視技術(shù)來提高警察和安全執(zhí)法部門的能力。

華為在智能城市的公共安全方面也走在前列。華為向執(zhí)法部門宣傳的“智能城市”的功能為“預測、防止并減少犯罪”和“解決新的威脅”。在2016年發(fā)表的一份白皮書中，華為描述了“一套包含視頻監(jiān)控、緊急視頻通信、集成事件指揮和控制、大數(shù)據(jù)、移動和安全的公共安全云等的科技”，用于支持本地的執(zhí)法部門、警察以及司法系統(tǒng)。值得一提的是，在中東，該平臺可以防止“極端主義”；在拉丁美洲，智能城市可以讓政府減少犯罪；在北美，該技術(shù)可以幫助美國推進“反恐”計劃。

在所調(diào)查的75個國家中，已至少有56個國家的與公共安全有直接關(guān)系的智能城市平臺部署了AI監(jiān)控技術(shù)。

3

面部識別系統(tǒng)

面部識別為利用生體技術(shù)，將攝像頭（靜止圖像或視頻）存儲下的圖像或?qū)崟r視頻在圖像數(shù)據(jù)庫中進行匹配的技術(shù)。并非所有系統(tǒng)都著重于數(shù)據(jù)庫匹配，一些系統(tǒng)會評價總體的統(tǒng)計趨勢，或者根據(jù)人群的面部識別結(jié)構(gòu)進行廣域的情感分析。

不同于已在警務系統(tǒng)中服務了25年之久的閉路電視系統(tǒng)，面部識別攝像頭更具侵入性。它們能掃描獨特的面部特征，為每個人建立詳細的生體映射，而這一切都無需獲得許可。通常，面部識別監(jiān)視攝像頭都非常便攜，而且可以進行偽裝。例如，馬來西亞的安全部門與中國的安全公司依圖合作，為警察配備帶有面部識別的便攜攝像機。這樣警察就可以“迅速地將攝像機拍攝的照片與中心數(shù)據(jù)庫的圖像進行對比”。

在報告里，專家們詳細解釋了與面部識別有關(guān)的幾點擔憂。

首先，關(guān)于圖像數(shù)據(jù)庫（用于存儲面部識別攝像頭捕獲的圖像的數(shù)據(jù)庫）的訪問和使用的法規(guī)非常少。政府如何使用這些信息，圖像應該存儲多久，執(zhí)法部門從何處獲得第一手數(shù)據(jù)，這些都是不透明的，而且各個地區(qū)都不一樣。

其次，面部識別技術(shù)的準確度波動非常大。特定的測試表明，面部識別技術(shù)的誤識別率非常高。最近的一份關(guān)于英國大都會警察局的獨立調(diào)研報告表明，它應用的面部識別技術(shù)的錯誤率高達81%。類似地，美國的警用攝像頭制造商Axon也宣布他們將在產(chǎn)品上去除面部識別功能。Axon的道德委員會表示：“面部識別技術(shù)目前還十分不可靠，無法從道德上評判其使用效果。”

但其他的評測對面部識別技術(shù)給出了正面的評價。2014~2018年間，美國國家標準技術(shù)研究所對于39家開發(fā)商提供的127種算法進行了評測，表明“在搜索數(shù)據(jù)庫、找到匹配的照片方面，面部識別的效果要好20倍?！迸c同期相比，失敗率從4%降到了0.2%。

如此巨大的差異的原因之一是，面部識別在理想條件下效果非常好。但當遇到不可預測的條件——例如惡劣的天氣狀況，或模糊的圖像等——時，失敗率就會直線上升。面部識別技術(shù)也不能避免性別和種族偏見，因此對于少數(shù)族裔和女性的假陽性判斷率很高——“膚色越深，錯誤率就越高，黑人女性的圖像的錯誤率幾乎達到了35%。”紐約時報的Steve Lohr如是說。

面部識別系統(tǒng)迅速在全世界受到歡迎。指數(shù)表明，至少64個國家在AI監(jiān)控計劃中主動地采用了面部識別系統(tǒng)。

4

智能警務

智能警務背后的思想是將大量的數(shù)據(jù)輸入到算法中，包括地理位置數(shù)據(jù)、歷史犯罪率、犯罪類型、生體數(shù)據(jù)、社交媒體數(shù)據(jù)等，從而達到避免犯罪，實現(xiàn)對于犯罪的快速響應，甚至能夠預測未來的犯罪行為。

備受關(guān)注的領(lǐng)域之一就是預測性警務。2009年，在美國司法部對該項技術(shù)的研究開了綠燈之后，該技術(shù)在美國的發(fā)展一日千里。該技術(shù)的核心是，根據(jù)大量數(shù)據(jù)的分析，預測出何時實施犯罪、針對何人實施犯罪。預測性警務受到了普遍關(guān)注。例如，預測性分析程序PredPol已經(jīng)被部署到了“全國超過60個警察局”。

但在看到預測的有效性的同時，人們也越來越多地擔心算法的傾向和偏見。最近，Caroline Haskins在給Vice提供的報道中描述了PredPol的預測性犯罪的預測算法的原理。PredPol的軟件能在“最小500x500平方英尺的范圍”內(nèi)為警察提供犯罪預測，這個范圍已經(jīng)足夠定位到一棟房子。它的假設(shè)是“特定時間點，特定的犯罪更容易出現(xiàn)在同一地點”。PredPol表示，該程序“利用每個新城市的歷史事件數(shù)據(jù)來訓練算法（理想狀況下2~5年的新數(shù)據(jù)），然后利用每天從警察局收到的新事件來更新算法?！毙碌念A測會在Google地圖上以紅框標記，表示高風險區(qū)域，以引起巡邏警察的注意。PredPol的弱點之一就是它利用過去的犯罪行為和逮捕來預測未來。已經(jīng)被警察“特別關(guān)注”的特定少數(shù)族裔社區(qū)，出現(xiàn)在PredPol中的頻率也非常高。

至少有53個采用了AI監(jiān)控的國家應用了智能警務系統(tǒng)。

5

AI監(jiān)控所需的技術(shù)

另一類技術(shù)不是直接負責監(jiān)控的程序，而是負責提供實現(xiàn)應用程序必不可少的關(guān)鍵功能。如果沒有云計算功能，那么高級視頻監(jiān)控和面部識別攝像頭將無法運行。一位專家曾說，如果視頻監(jiān)控是“眼睛”，那么云服務就是“通過5G網(wǎng)絡(luò)將攝像機和硬件連接到云計算模型的”大腦”。然而，云計算并非為了監(jiān)控而生。因此，我們可以將這些輔助技術(shù)歸為“AI監(jiān)控所需的技術(shù)”，如下表所示。

表2：AI監(jiān)控所需的技術(shù)

自動邊境控制系統(tǒng)

這些技術(shù)主要應用于國際機場和邊境。根據(jù)咨詢公司埃森哲的說法，自動邊境控制系統(tǒng)（AUTOMATED BORDER CONTROL SYSTEMS，簡稱ABC系統(tǒng)）利用“多模式生物特征匹配”（結(jié)合面部識別或其他生體識別與讀取電子護照）來處理入境。從乘客走入多攝像機前時啟動該系統(tǒng)，攝像頭旁邊的數(shù)字鏡可以吸引乘客的眼睛，然后進行圖像捕獲，再針對個人護照和某些安全監(jiān)視列表自動驗證身份，并以此完成風險評估。未能通過系統(tǒng)的人員必須接受人工的二次檢查。

很多政府還使用了自動邊境控制系統(tǒng)的新功能，例如自動測謊技術(shù)。例如，歐盟的三個國家（希臘、匈牙利和拉脫維亞）正在測試一種名為iBorderCtrl的技術(shù)，并利用該技術(shù)篩查過境點的移民。在這個過程中，系統(tǒng)會詢問個人有關(guān)其原籍國和離境情況的問題。然后通過基于AI的測謊系統(tǒng)對答案進行評估。所有誠實回答了問題的人就可以過境，而未曾通過測試的人則會被轉(zhuǎn)移給邊防人員，接受進一步的詢問。

云計算

越來越多的政府和公司數(shù)據(jù)存儲在異地的云上，然后通過互聯(lián)網(wǎng)訪問。云計算是一種通用技術(shù)，包括GPS地圖、社交網(wǎng)絡(luò)和電子郵件通信、文件存儲以及流媒體內(nèi)容訪問。云計算數(shù)據(jù)中心是互聯(lián)網(wǎng)的骨干，可以即時存儲、通信和傳輸所產(chǎn)生的信息。因此，云計算對于AI系統(tǒng)至關(guān)重要。微軟、IBM、亞馬遜、華為和阿里巴巴都為促進AI操作而建立了數(shù)據(jù)中心。

接受云計算的國家越來越多，而且很多政府都會將所有數(shù)據(jù)存儲需求外包給某個公司平臺。例如，2018年，冰島與微軟簽署了一項服務協(xié)議，讓微軟承擔該國整個公共部門唯一的IT供應商。云計算的趨勢也并非沒有問題。首先，云服務會成為網(wǎng)絡(luò)黑客的攻擊目標。NSO Group等安全公司聲稱，他們能夠穿透云服務器并訪問目標的“位置數(shù)據(jù)、歸檔的消息或照片”，因此，很多人都質(zhì)疑云計算公司是否應該保留個人信息、公司機密、機密的政府材料或健康記錄安全。

物聯(lián)網(wǎng)

物聯(lián)網(wǎng)的關(guān)鍵在于，越來越多的設(shè)備通過互聯(lián)網(wǎng)相互連接，并允許云端的分析處理訪問數(shù)據(jù)。物聯(lián)網(wǎng)的主要難題在于設(shè)備之間缺乏互操作性。當前，iPhone、Alexa揚聲器、Nest溫控器和OnStar自動系統(tǒng)都可以在不同平臺上運行并使用不同的信息源。物聯(lián)網(wǎng)的目標是攻克這項難題，并確保設(shè)備集成和數(shù)據(jù)聚合（盡管亞馬遜、蘋果和谷歌等公司統(tǒng)統(tǒng)建立了獨特的生態(tài)系統(tǒng)，但這些生態(tài)系統(tǒng)與其他平臺的互操作性非常有限）。雖然物聯(lián)網(wǎng)能帶來高效，但也有可能將傳統(tǒng)的非聯(lián)網(wǎng)設(shè)備（例如智能揚聲器）轉(zhuǎn)變?yōu)闊o所不在的監(jiān)視工具。

圍繞物聯(lián)網(wǎng)技術(shù)的爭議越來越大。2019年初，有人披露亞馬遜的數(shù)千名員工聽了Echo智能揚聲器記錄的對話。此外，是否應將與犯罪有關(guān)的記錄移交給執(zhí)法機構(gòu)，有關(guān)這個話題的爭議也非常多。此外，也有跡象表明，谷歌和Facebook的承包商一直在定期收聽其平臺與個人消費者之間的錄音。

物聯(lián)網(wǎng)支持的移動監(jiān)視是此類技術(shù)的另一種可能性。記者Andy Greenberg表示，最近展示的一種新設(shè)備可以介入特斯拉Model S或Model 3汽車中，并將內(nèi)置攝像頭“變成在一定時間段內(nèi)定位、跟蹤和存儲車牌和面部的系統(tǒng)”。在車主停好車后，“該系統(tǒng)可以跟蹤附近的人臉，看看哪些人反復出現(xiàn)?！痹撛O(shè)備的目的是警告車主，防止小偷和故意破壞。但是，正如設(shè)備的發(fā)明者Truman Kain承認的那樣，“這款設(shè)備也可以將特斯拉變成AI監(jiān)控器”。

6

總結(jié)

AI監(jiān)控技術(shù)在不斷蔓延。但是，AI所引起的道德問題也受到越來越多人的關(guān)注。專家們對面部識別錯誤率以及少數(shù)群體的誤報率表示深深的擔憂。越來越多的公眾意識到AI訓練數(shù)據(jù)集中的算法偏差，及其對預測性警務算法和執(zhí)法機構(gòu)使用的其他分析工具產(chǎn)生的偏見影響。甚至是意圖良好的物聯(lián)網(wǎng)應用程序（智能揚聲器、遠程無鑰匙門鎖、汽車智能儀表板顯示器）也可能帶來被監(jiān)控的煩惱。盡管有人認為邊境控制系統(tǒng)的基礎(chǔ)是錯誤的科學和未經(jīng)證實的研究，但各國已經(jīng)開始嘗試這項技術(shù)（例如iBorderCtrl等）。如果負面影響不斷擴大，有可能會導致這項技術(shù)的停滯。有關(guān)高級監(jiān)控技術(shù)的準確性、公平性、方法一致性和偏見的影響等令人擔憂的問題也會逐步浮出水面。

本文的報告旨在重點介紹這種尚未被很好地理解、但會越來越多地影響現(xiàn)代生活的技術(shù)的新興趨勢。不過好在我們還有足夠的時間，就AI技術(shù)、監(jiān)控和公民隱私權(quán)之間的適當平衡展開急需的公開辯論。