隨著一年的臨近，回顧一下前幾個月以了解未來的發(fā)展將是很有啟發(fā)性的。歷史本質(zhì)上是周期性的，在AI領域也是如此。回想一下傳播算法，一種在機器學習系統(tǒng)的訓練中廣泛使用的算法，早在1980年就作為一種理論出現(xiàn)了，但是直到2010年代它才回來，這在一定程度上要歸功于廉價，功能強大的基于圖形卡的機器。

今年，人工智能和機器學習中的四個關鍵問題浮出水面：面部識別； 學術界的虛假和自我審查；隱私； 和自動化。展望2020年，下面回顧一下定義2019年行業(yè)的一些問題。

面部識別

面部識別技術在今年的新聞中發(fā)現(xiàn)自己可能比其他任何AI應用程序都多。

1月初，一個麻省理工學院的科學家團隊聲稱，亞馬遜網(wǎng)絡服務的面部識別和分析平臺Rekognition與某些競爭性解決方案相比，在某些種族中對性別的區(qū)分不準確。具體來說，它無法確定某些情況下女性和深色皮膚的面孔的性別，從而錯誤地將女性的照片分別識別為男性和深色皮膚的女性分別為19％和31％。

除了亞馬遜的爭議之外??，這項研究預先聚焦了AI容易受到影響的偏見類型。美國國家標準技術研究院（NIST）上周發(fā)表的研究發(fā)現(xiàn)，當進行特定類型的數(shù)據(jù)庫搜索時，許多面部識別算法錯誤地識別出黑人和亞裔面孔的頻率是白種人的10到100倍。面孔。

除了偏見問題之外，面部識別技術的可擴展性使其成熟了。今年，紐約警察局通過面部識別系統(tǒng)為演員伍迪·哈雷爾森（Woody Harrelson）拍攝了照片，因為警察認為在毒品商店攝像機鏡頭中看到的嫌疑犯與演員相似。我們了解了中國如何利用面部識別來跟蹤其維吾爾族穆斯林人口的活動?？偛课挥谔乩S夫市以外的一家初創(chuàng)企業(yè)AnyVision受到了審查，原因是有報道稱其產(chǎn)品用于監(jiān)視住在西岸的巴勒斯坦人。

越來越多的活動家，學者和立法者呼吁限制或徹底禁止面部識別技術。今年秋天，加利福尼亞州對執(zhí)法機構的身體攝像機使用面部識別實施了三年禁令，而在五月，舊金山禁止警察或城市部門使用面部識別。奧克蘭在6月也效仿，此后伯克利通過了自己的禁令。去年夏天，在眾議院監(jiān)督和改革委員會的兩次聽證會中，美國國會中一些最杰出的共和黨人和民主黨人共同加入了立法改革提案，此舉是在引入2019年《商業(yè)面部識別隱私法》之后，該法案要求企業(yè)使用面部識別軟件之前，請先征得您的同意。

鑒于國會，學術界，州議會和像國會山這樣的公共論壇上的辯論很激烈，可以肯定地說，面部識別曾經(jīng)而且將仍然是一個熱門話題。

自我審查和偽造品

與學術規(guī)范不同的是，OpenA在二月份選擇不公開用于訓練其最先進的自然語言處理模型（稱為GPT-2）的語料庫，也不公開其附帶的訓練代碼。OpenAI在證明其決定的博客文章中表示關注，擔心它們可能被用來生成有關特定公司的綜合金融新聞，例如，種族主義或性別歧視文本或在亞馬遜或Yelp等網(wǎng)站上的假評論。

隨后，OpenAI發(fā)布了幾個較小且不太復雜的GPT-2版本，并研究了它們的接收以及他們訓練所依據(jù)的數(shù)據(jù)集。在得出“沒有強有力的證據(jù)”濫用的結論之后，該公司上個月發(fā)布了完整的模型-對從網(wǎng)絡上抓取的800萬個文本文檔進行了培訓。

對OpenAI決策的批評者認為，該公司夸大了其工作帶來的危險，并且無意中激起了有關AI和機器學習的巨大歇斯底里。除此之外，他們斷言OpenAI剝奪了他們使用突破性AI技術的能力，不利于研究人員，并且有效地阻止了研究團體識別GPT-2中的錯誤或提出潛在的對策。

他們有道理，但是OpenAI的擔心并非完全沒有根據(jù)。Deepfakes或?qū)⑷藥氍F(xiàn)有圖像，音頻記錄或視頻中并使用AI將其替換為他人形象的媒體，在2019年迅速增長。Deeptrace在6月和7月的最新統(tǒng)計中在互聯(lián)網(wǎng)上找到了14,698個Deepfake視頻。 ，比去年12月增長了84％。令人不安的是，不僅因為偽造品可能被用來在選舉中動搖公眾輿論或?qū)⒛橙司砣胨麄兾丛赶碌淖镄兄校疫€因為它們已經(jīng)被用來制作色情材料并使數(shù)以百萬計的公司陷于癱瘓美元。

包括Facebook，微軟和亞馬遜在內(nèi)的科技巨頭已經(jīng)與麻省理工學院和康奈爾大學等學術合作伙伴合作，以幫助遏制AI起源的誤導性媒體的傳播，但OpenAI猶豫不決發(fā)布其模型是未來挑戰(zhàn)的領頭羊。的確，Experian 預測，到2020年，網(wǎng)絡犯罪分子將使用AI技術來破壞商業(yè)企業(yè)的運營并在國家之間造成地緣政治混亂。

隱私

盡管他們做了很多事情，但AI和機器學習算法仍然存在一個主要的隱私問題。

倫敦皇家免費NHS基金會信托基金是總部位于倫敦的英國國家衛(wèi)生局的一個部門，未經(jīng)他們的同意，向 Alphabet的DeepMind提供了160萬患者的數(shù)據(jù)。Google（與Ascension 共享健康數(shù)據(jù)的合作伙伴關系在11月成為審查的對象）放棄 了發(fā)布胸部X光掃描的計劃，原因是擔心它們包含個人身份信息。去年夏天，微軟悄悄 將其刪除一個數(shù)據(jù)集（MS Celeb）包含超過一千萬張人的圖像，原因是有人不知道其中已經(jīng)包含了這些圖像。而且，ImageNet是一個通常用于訓練計算機視覺算法的開源庫，據(jù)透露，該庫在某些時候包含從Google，F(xiàn)lickr和其他地方刮取的親密行為的描述。

另外，包括蘋果和谷歌在內(nèi)的科技巨頭也受到了報道的關注，他們發(fā)現(xiàn)可能會濫用 錄音 來改善Siri和Google Assistant等助手。今年4月，彭博社 透露，亞馬遜雇用了合同工來注釋來自Alexa供電設備的數(shù)千小時音頻，這促使該公司推出了面向用戶的工具，這些工具可以快速刪除云存儲的數(shù)據(jù)。

鑒于越來越多的隱私問題不僅是哲學問題，而且在業(yè)務過程中也至關重要。州，地方和聯(lián)邦各級的法律旨在使隱私成為合規(guī)管理的強制性部分。在美國的50個州，領地和哥倫比亞特區(qū)，數(shù)百項涉及隱私，網(wǎng)絡安全和數(shù)據(jù)泄露的法案正在等待或已經(jīng)通過。可以說，其中最全面的是大約兩年前，《加利福尼亞消費者隱私法》已簽署成為法律。更不用說《健康保險可移植性和責任制法案》（HIPAA），該法案要求公司在披露個人健康信息之前必須尋求授權。

作為回應，谷歌和其他公司已經(jīng)發(fā)布了諸如TensorFlow Privacy和PySyft之類的庫， 用于機器學習框架，包括TensorFlow和PyTorch，它們通過差分隱私之類的技術提供了強大的隱私保證。同時，他們采用了聯(lián)邦學習等技術，該技術可以在不交換數(shù)據(jù)樣本的分散設備或服務器（即節(jié)點）上跨分散的設備或服務器訓練AI，以及同態(tài)加密（一種加密形式，可以對已加密的純文本（文件內(nèi)容）進行計算）使用算法（也稱為密文）。在等式全面管理的服務方面，像亞馬遜這樣的科技巨頭已經(jīng)采取行動，使其產(chǎn)品符合HIPAA等法規(guī)。

自動化

盡管人們對竊取AI的恐懼可能已經(jīng)被夸大了，但是自動化正在侵蝕對人工的需求。

麥肯錫全球研究所在今年早些時候發(fā)布的一份報告中發(fā)現(xiàn)，女性占主導地位的職業(yè)將受到人工智能和機器學習的不利影響。到2030年，在10個經(jīng)濟體中男性占多數(shù)的工作中，約40％的工作將集體被GDP取代，到2030年，自動化將取代男性，而具有自動化潛力的女性占52％。

這些觀點與英國國家統(tǒng)計局（ONS）于2019年3月發(fā)布的報告一致，該報告發(fā)現(xiàn)英國10％的勞動力（約150萬工人）從事的工作處于自動化的“高風險”中。ONS預測，服務業(yè)工人，主要是侍應生和女服務員，零售庫存補給員和入門級銷售人員，將受到不成比例的影響，以及農(nóng)業(yè)，汽車和服務業(yè)的工人。該部門預測，在2017年擔任高風險工作70.2％的女性中，首當其沖的是勞動力市場變化。

無論是在當前領域從事新工作還是獲得新技能，預計到2030年成千上萬的工人將不得不進行某種職業(yè)過渡。Forrester發(fā)現(xiàn)，自動化可以在未來幾個月內(nèi)消除美國10％的工作。 。而世界經(jīng)濟論壇，普華永道， 麥肯錫全球研究院，并 Gartner公司已經(jīng)預測，AI會在2025年使多余的，因為有75萬人的就業(yè)機會。

也許不足為奇的是，各種形式的普遍基本收入，如不分收入定期向公民付款，都得到了理查德·布蘭森和埃隆·馬斯克等名人的認可。美國總統(tǒng)候選人安德魯·楊（Andrew Yang）將其作為民主黨提名競選活動的核心部分-他堅稱，由增值稅提供的付款可能會啟動美國尚未受益于民主的地區(qū)的經(jīng)濟發(fā)展。風險投資。至于比爾·蓋茨（Bill Gates），他建議征收“ 機器人稅 ”，即政府在企業(yè)每次使用自動化軟件或機器替換員工時，政府都會收取費用。

展望未來

人工智能面臨的挑戰(zhàn)是巨大的。面部識別仍然是機器學習的一種有效且很大程度上不受監(jiān)管的應用，它可以增強（在某些情況下還可以創(chuàng)建）監(jiān)視狀態(tài)。Deepfake對科技公司和學術界以及廣大公眾造成重大影響。對于AI中的隱私問題的確定性解決方案是難以捉摸的。不管工人是否熟練，自動化都將影響數(shù)百萬人的生計。

2020年可能會有什么答案？很難說。但是，盡管AI帶來了所有困境，但它卻帶來了巨大的積極變化。今年的AI在蛋白質(zhì)折疊方面達到了最先進的水平，這可以為新療法和新藥物鋪平道路。機器學習的各種實現(xiàn)方式正在被用來應對全球氣候變化。人工智能使有言語和聽力障礙的人可以使用以前無法獲得的產(chǎn)品。

與任何范式轉(zhuǎn)換一樣，好的事物總是有弊。該行業(yè)的任務，乃至我們的任務，是在力所能及的范圍內(nèi)盡一切努力，以后者為代價來推進后者。