從黑箱看 AI 人工智能在幫助人類的同時創(chuàng)造了可怕的危機

人工智能是這幾年的熱詞，人工智能系統(tǒng)有巨大的潛力，但它們的性能也取決于它們的數(shù)據(jù)。隨著機器學(xué)習(xí)滲透到我們生活的各個領(lǐng)域，比如醫(yī)療、自動駕駛、執(zhí)法等等，但是如果不對人工智能加以規(guī)范平衡利弊，那么人工智能技術(shù)將弊大于利。

偏頗的數(shù)據(jù)導(dǎo)致不準(zhǔn)確的結(jié)果

人工智能存在偏見的問題是最近比較困擾的一個問題，也是確實存在的一個問題，麻省理工學(xué)院(MIT)的研究員Joy Buolamwini曾親身體驗過，結(jié)果發(fā)現(xiàn)人工智能識別淺色皮膚同事的面孔比識別自己的面孔更輕松。在此之后，她就開始了一項研究，以查明該軟件在識別她的特定特征方面是否存在一些問題，或者是存在于人工智能中的更廣泛的問題。

Joy Buolamwini測試了IBM、微軟和中國公司Face++的系統(tǒng)，向這些系統(tǒng)展示了1000張臉，并要求其識別受試者的性別，是男性還是女性。她發(fā)現(xiàn)，所有這些系統(tǒng)識別男性面孔的準(zhǔn)確度明顯優(yōu)于女性面孔，識別淺色面孔也比深色面孔表現(xiàn)得更好?，F(xiàn)在隨著面部識別越來越融入日常生活，面孔識別被應(yīng)用于安全、醫(yī)療診斷應(yīng)用和尋找失蹤者等方面，但研究的結(jié)果顯示，膚色較深的人和女性處于劣勢。

針對這些，麻省理工學(xué)院(MIT)的研究人員正在研究一種算法，可以通過發(fā)現(xiàn)隱藏的偏倚并對數(shù)據(jù)重新采樣。在測試中，該算法的應(yīng)用有效地降低了人工智能面部識別的種族歧視，減少了分類偏見的出現(xiàn)，但在不降低總體準(zhǔn)確率的情況下，預(yù)計減少了60%以上。

英特爾AI開發(fā)者大會，AI DevCon (AIDC)主要為機器學(xué)習(xí)提供平臺，來自世界各地的公司利用英特爾機器學(xué)習(xí)平臺造福社會，應(yīng)用于醫(yī)療和物理研究領(lǐng)域。英特爾主要為機器學(xué)習(xí)提供平臺，而不是開發(fā)應(yīng)用程序，英特爾也很清楚自己工作的規(guī)范倫理，所以它旨在開發(fā)和分享人工智能，目標(biāo)是讓人工智能變得安全、可信、公平、透明和負(fù)責(zé)任，并為社會服務(wù)。

在AIDC的演講間隙，英特爾技術(shù)計算、分析和人工智能總監(jiān)Stephan Gillich接受采訪時表示，“為了學(xué)習(xí)算法，你需要有準(zhǔn)確的數(shù)據(jù)，如果你沒有廣泛且具有代表性的數(shù)據(jù)，那么就不會起作用。”因此，從人工智能的角度來看，這番話的意思就是，公司的數(shù)據(jù)應(yīng)該盡可能準(zhǔn)確無偏倚。

人工智能的有益方面

英特爾還在與一些合作伙伴合作，展示機器學(xué)習(xí)在使用高質(zhì)量數(shù)據(jù)并經(jīng)過仔細(xì)定位的情況下的優(yōu)點。在其中一個項目中，英特爾與環(huán)保組織Parley For the Oceans合作開發(fā)了一種無人機系統(tǒng)，可以在不干擾鯨魚健康的情況下評估它們的健康狀況。Stephan Gillich解釋說，“鯨魚可以通過拍照來識別，就像指紋，拍照之后就不需要再給這些鯨魚貼上標(biāo)簽了。這些鯨魚就擁有自己的標(biāo)簽了。

他們過去的做法是向鯨魚體內(nèi)注射一些東西。雖然對鯨魚是無害的，但操作起來很困難。所以他們找到了一種方法，趁在鯨魚水面上噴水的時候采集樣本，然后利用人工智能對它們進(jìn)行分析，使用AI來做圖像識別。由此就產(chǎn)生了一個系統(tǒng)，Parley SnotBot，可以在不驚擾到它們的情況下，實時提供鯨魚的健康數(shù)據(jù)。

另一個特別項目涉及保護(hù)非洲象，使其不受偷獵者的殺害。目前，非洲森林象的數(shù)量可能會在未來10年內(nèi)被偷獵象牙的偷獵者滅絕殆盡，但非洲象的棲息地面積巨大，護(hù)林員不可能保護(hù)所有這些大象。塞倫蓋蒂國家公園(Serengeti National Park)只有150名護(hù)林員，而他們要巡邏的面積大約相當(dāng)于比利時的國土面積。

Stephan Gillich說，“這些都是偏遠(yuǎn)地區(qū)，不可能到處都安排上人，因為那樣也會干擾野生動物，而且這也根本不可能，所以我們一直在研究如何解決這個問題”。為了幫助解決這個問題，英特爾與環(huán)保組織Resolve合作開發(fā)了一個名為TrailGuard的系統(tǒng)，該系統(tǒng)搭配了一種小到可以藏在灌木叢中的低功耗智能相機。

攝像機會被動作激活，這時人工智能會分析錄像以識別運動物體是動物、人還是車輛。如果一個人被識別到在一個通常只有動物居住的地方，很有可能他們是偷獵者，所以公園的管理員會對這些人和車輛保持警惕。將TrailGuard攝像機捕捉到的每一幀畫面發(fā)送到總部或云服務(wù)器是相當(dāng)麻煩的一件事，而且管理員自己監(jiān)視這么多視頻也是不切實際的，所以運行在攝像機上的神經(jīng)網(wǎng)絡(luò)實時分析每一幀畫面，丟棄那些沒有活動或者只有動物的畫面，將那些有人類的畫面發(fā)送給公園管理員，這個方法大大減少了工作量。

TrailGuard項目取得了相當(dāng)?shù)某晒?，公園管理員依靠這個系統(tǒng)能夠在動物受到傷害之前進(jìn)行干預(yù)并捕獲偷獵者，保護(hù)了瀕危動物的安全。Stephan Gillich表示，“人工智能能提供一種創(chuàng)新方式，現(xiàn)在有很多的數(shù)據(jù)，公司可以處理和收集大量的數(shù)據(jù)，程序員可以進(jìn)行函數(shù)式編程，這就是我們所說的人工智能?！币虼耍斯ぶ悄芸梢砸砸环N比以前更有效的方式去幫助人類。