網(wǎng)絡(luò)上曾出現(xiàn)過這樣的視頻：一名女子穿著粉色肩膊上衣，坐在床上，露出令人信服的微笑。

那的確是她的臉，但是在她不知情或不同意的情況下，被無縫地移植到了別人的身體上。而一群不知名的用戶一直在網(wǎng)絡(luò)上傳播著。

她感到惡心和羞恥，如果她的同事看到了怎么辦？她的家人、她的朋友呢？這會(huì)改變他們對她的看法嗎？他們會(huì)相信這是假的嗎？

“我感到被侵犯了，一種令人討厭的侵犯感，”這名40多歲的女性說道。她要求匿名，因?yàn)樗龘?dān)心這段視頻可能會(huì)傷害她的婚姻或事業(yè)。“這是一種奇怪的感覺，你想從互聯(lián)網(wǎng)上撕扯掉一切，但是你知道并不能做到?！?/p>

Airbrush和Photoshop很久以前就可以對照片進(jìn)行修改?，F(xiàn)在，視頻也變得越來越容易遭到篡改，更致命的是，這些假貨看起來很像真的。這些栩栩如生的“深度虛假”視頻在谷歌開發(fā)的強(qiáng)大且廣泛可用的人工智能軟件推動(dòng)下，正在互聯(lián)網(wǎng)上迅速成倍增長，模糊了真相和謊言之間的界限。

但是，這些視頻也針對女性被武器化，成為了一種新的侮辱、騷擾和虐待的手段。這些虛假視頻往往非常清晰，被貼在熱門色情網(wǎng)站上，也越來越難以發(fā)現(xiàn)。盡管其合法性還沒有在法庭上得到過檢驗(yàn)，但專家說它們可能會(huì)受到第一修正案的保護(hù)——雖然它們也可能被定性為誹謗、身份盜竊或欺詐。

令人不安的是，無論是名人還是普通女性，都有可能被盜用面孔。女演員斯嘉麗·約翰遜表示，她擔(dān)心“任何一個(gè)人成為恐怖偽造的目標(biāo)只是時(shí)間問題”。

在過去的一年里，約翰森的面孔被疊加到了幾十個(gè)圖片性場景中，這些畫面已經(jīng)在網(wǎng)上流傳開來，其中一段被錯(cuò)誤地描述為真實(shí)“泄露”鏡頭的視頻，已經(jīng)在一個(gè)主要色情網(wǎng)站上被觀看了超過150萬次。她說，她擔(dān)心，對于婦女和兒童來說，保護(hù)自己免受“幾乎無法無天的網(wǎng)絡(luò)深淵”傷害已經(jīng)太遲了。

“沒有什么能阻止不法分子剪切和粘貼我的圖像或者其他人的圖像到不同的身體上，并讓它看起來像你所希望的那樣逼真，”她說。“事實(shí)是，試圖保護(hù)自己免受互聯(lián)網(wǎng)及其墮落的傷害，基本上是一個(gè)失敗的原因?；ヂ?lián)網(wǎng)是一個(gè)巨大的黑暗蟲洞，不斷地吞噬著自己?！?/p>

今年9月，谷歌在其禁令名單中增加了“非自愿合成色情圖片”，允許任何人要求該搜索引擎阻止將它們虛假描述為“裸體或露骨色情圖片”的結(jié)果。但是要想解決制造和傳播問題并不容易。

越來越多的深度假貨開始針對遠(yuǎn)離公眾視線的女性，深度假貨討論板上的匿名用戶和私人聊天稱她們?yōu)橥?、同學(xué)和朋友。一些根據(jù)請求制作視頻的用戶表示，價(jià)格正在不斷上漲，目前每件贗品大約20美元。

視頻請求者將這位女性的臉放在身體上，視頻中匯集了她491張臉的照片，其中許多照片來自她的Facebook賬戶。他告訴深度假貨網(wǎng)站的其他成員，他“愿意為好作品付費(fèi)?！薄度A盛頓郵報(bào)》的一名記者后來通過一個(gè)名為反向圖像搜索的在線工具，運(yùn)行這些照片找到了她，該工具可以定位照片最初共享的位置。

在一個(gè)自稱為“創(chuàng)造者”的團(tuán)隊(duì)提出交付要求兩天之后，一個(gè)不露面的在線觀眾慶祝了這一努力?！昂玫拈_始！”請求者寫道。

“這就像一場攻擊，充滿著權(quán)力感和控制感，”加州家庭暴力庇護(hù)所Laura’s House的法律總監(jiān)Adam Dodge說。Dodge上個(gè)月為警探和治安官代表舉辦了一次培訓(xùn)課程，內(nèi)容是虐待他人的伴侶或配偶會(huì)如何使用深度假貨。Dodge說：“這種制作色情作品的能力，讓每個(gè)人都成為了潛在的目標(biāo)。”

幾十年來，視頻一直是真實(shí)性的基準(zhǔn)，與容易失真的照片有著明顯的區(qū)別。對于除了高級藝術(shù)家和電影制片廠以外的所有人來說，假視頻在技術(shù)上總是過于復(fù)雜，無法正確處理。

但是，最近機(jī)器學(xué)習(xí)技術(shù)的突破，讓偽造視頻創(chuàng)作變得比以往任何時(shí)候都更容易獲得，這些技術(shù)被那些競相改進(jìn)和完善贗品的創(chuàng)作者所采用。要在幾個(gè)小時(shí)內(nèi)做出一個(gè)有說服力的模仿，只需要一臺電腦和一組強(qiáng)有力的照片，比如數(shù)百萬人每天在社交媒體上發(fā)布的照片。

這樣造成的結(jié)果是一種可怕新方式的誕生，從而給不露面的陌生人造成尷尬、苦惱或羞恥?！叭绻闶鞘澜缟献钣憛捙说娜耍边~阿密大學(xué)法學(xué)教授兼網(wǎng)絡(luò)民權(quán)倡議主席Mary Anne Franks說。“這項(xiàng)技術(shù)會(huì)讓你實(shí)現(xiàn)想要的一切?！?/p>

男性出現(xiàn)在這些假冒視頻中幾乎都是玩笑性質(zhì)，比如一個(gè)受歡迎的模仿展示了演員尼古拉斯·凱奇的臉疊加在了特朗普總統(tǒng)的臉上。但虛假女性視頻卻主要都是色情的，暴露了同樣類型的人工智能技術(shù)是如何鼓勵(lì)女性的性客觀化的，要知道這種技術(shù)是可以支撐網(wǎng)絡(luò)的未來的。

媒體評論家Anita Sarkeesian因其對流行文化和視頻游戲的女權(quán)主義批評而在網(wǎng)上遭到抨擊，今年她被插入到一個(gè)色請視頻中，并被在***Po***看了3萬多次。

在深度假貨論壇上，匿名發(fā)布者稱，他們很興奮能在她的Twitter和電子郵件賬戶上與她當(dāng)面對質(zhì)，并分享了她的聯(lián)系信息，并告訴她，他們是如何確保視頻易于獲取并且無法刪除的。

社交網(wǎng)站Voat上的一名用戶Its-Okay-To-Be-White寫道：“這是我們需要和應(yīng)該得到的深度假貨。”另一名用戶Hypercyberpastelgooth寫道：“她首先攻擊了我們。她只需要張開她那張小嘴?！?/p>

Sarkeesian說，這些深度假貨更多地證明了“在互聯(lián)網(wǎng)上做一個(gè)女人是多么可怕，因?yàn)樵诨ヂ?lián)網(wǎng)上，所有這些男人都覺得有資格擁有女人的身體?！?/p>

Sarkeesian說：“對于那些不知名的人來說，這會(huì)損害你的工作前景、人際關(guān)系、聲譽(yù)和精神健康。它被用作一種武器來壓制女性，貶低女性，展示對女性的力量，把我們變成性物品。這不是一個(gè)有趣的游戲，這會(huì)毀掉一個(gè)人的生活?！?/p>

“更脆弱”

聲稱深度假貨的人工智能方法起始于一個(gè)簡單的想法：兩組相對的深度學(xué)習(xí)算法創(chuàng)造、改進(jìn)和重新創(chuàng)造了一個(gè)越來越復(fù)雜的結(jié)果。由谷歌研究科學(xué)家Ian Goodfellow領(lǐng)導(dǎo)的一個(gè)團(tuán)隊(duì)，在2014年通過比較偽造者和警察之間的斗爭，引入了這一想法，雙方都在努力“改進(jìn)他們的方法，直到偽造者無法辨別。

該系統(tǒng)將制作逼真人臉交換視頻繁瑣和耗時(shí)的工作進(jìn)行了自動(dòng)化：找到匹配的面部表情，無縫替換它們，每秒鐘重復(fù)任務(wù)60次。許多基于谷歌人工智能庫的深度偽造工具都是公開的，可以免費(fèi)使用。

去年，一名匿名創(chuàng)作者使用在線名稱“深度假貨”，開始使用該軟件來制作像女演員Gal Gadot的換臉色情視頻，并將其發(fā)布到討論板巨頭Reddit上，贏得了廣泛關(guān)注，也引發(fā)了一波模仿浪潮。

這些視頻質(zhì)量參差不齊，許多都很浮華或具有明顯的缺點(diǎn)。但是深度假貨的創(chuàng)造者說，這項(xiàng)技術(shù)正在迅速改進(jìn)，從而無法看出假冒。

雖然深度偽造過程需要一些技術(shù)訣竅，但最近幾個(gè)月，一個(gè)匿名的網(wǎng)絡(luò)創(chuàng)作者社區(qū)已經(jīng)為感興趣的初學(xué)者排除了許多障礙，他們制作了操作指南，提供了提示和疑難解答建議，并開始自己滿足假冒色情的要求。

為了簡化任務(wù)，深度偽造的創(chuàng)作者通常會(huì)編輯大量的面部圖像，稱為“面部集”，以及他們稱之為“捐獻(xiàn)者身體”的女性性場景視頻。一些創(chuàng)作者使用軟件從視頻和社交媒體帖子中自動(dòng)提取女性的臉部。其他人已經(jīng)嘗試了語音克隆軟件來產(chǎn)生潛在的令人信服的音頻。

并非所有針對女性的虛假視頻都依賴色情來獲取震撼的價(jià)值或政治觀點(diǎn)。今年春天，一段篡改的視頻顯示Parkland學(xué)校槍擊案幸存者Emma González撕毀了***。保守主義活動(dòng)人士分享了這段視頻，認(rèn)為這是她背叛美國的證據(jù)；事實(shí)上，視頻顯示她是在一個(gè)射擊場內(nèi)撕毀了一個(gè)紙質(zhì)的物體。

但是深度假貨在色情作品中的使用出現(xiàn)激增。討論板8chan上的一位創(chuàng)作者制作了一個(gè)四分鐘的深度假貨，展示了一位年輕的德國化妝博主的臉，這位創(chuàng)作者在她2014年錄制的頭發(fā)教程中提取了成千上萬張臉圖像。

Reddit和Pornhub今年禁止了這些視頻，但新的替代品迅速涌現(xiàn)，取代了它們。主要的在線討論板如8chan和Voat的代表沒有回應(yīng)評論請求。他們也在經(jīng)營著自己的深度假貨論壇，并由于他們的傳播，導(dǎo)致這些視頻也可以在獨(dú)立網(wǎng)站上找到。

一個(gè)深度假貨網(wǎng)站的創(chuàng)建者，由于害怕遭到判決，要求匿名。他說他建立10個(gè)月的網(wǎng)站每天接收超過2萬名觀眾，并依靠廣告賺取微薄的利潤。他說，名人是最吸引流量的工具之一。他補(bǔ)充說，他相信名人的名氣以及大量的公開畫面，頗有成效地讓他們成為這場游戲的核心。

網(wǎng)站上唯一的規(guī)則是，目標(biāo)必須是18歲及以上的人，并且不能“以負(fù)面方式”進(jìn)行描述，比如圖形暴力或強(qiáng)奸場景。他補(bǔ)充說，該網(wǎng)站“只是半監(jiān)管”，依靠用戶自己進(jìn)行監(jiān)管。

一位名為“Cerciusx”的深度假貨創(chuàng)作者表示，他拒絕了有關(guān)非名人的請求，因?yàn)檫@些請求很容易在學(xué)校校園或工作場所傳播，并給一個(gè)人的生活留下疤痕。

然而，許多創(chuàng)作者滿足了這樣的要求，讓一個(gè)女人看起來“更脆弱”，或者給生活帶來黑暗的幻想。“大多數(shù)男人從來沒有找到他們的夢中情人，”他說。"這就是深度假貨盛行的原因。”

今年4月，印度的一名調(diào)查記者Rana Ayyub被一個(gè)消息來源提醒注意一段深度假貨***，***顯示了她的臉出現(xiàn)在了一名年輕女性的身上。***在Facebook、Twitter和WhatsApp上得到成千上萬人的傳播，有時(shí)還會(huì)伴隨著強(qiáng)奸威脅，她的家庭地址也被泄漏出來。

34歲的Ayyub說，她已經(jīng)忍受了多年的網(wǎng)絡(luò)騷擾。但是深度假貨讓她感覺不同。當(dāng)她看到時(shí)，她吐了出來，哭了好幾天，然后匆忙趕到醫(yī)院，焦慮萬分。她說，在警察局，警察拒絕提交報(bào)告，她甚至可以看到他們在觀看視頻時(shí)面帶微笑。

“它確實(shí)讓我崩潰了。這是壓倒性的。我能想到的只是我的性格：這就是人們對我的看法嗎？”她說?！斑@比實(shí)際威脅要可怕得多，對你的思想有持久的影響。沒有什么能阻止它再次發(fā)生在我身上?！?/p>

身份盜竊

深度假貨的受害者幾乎沒有反擊的工具。法律專家表示，深度假貨往往難以追查，無法調(diào)查，并且存在于法律灰色地帶。由于基于公開照片，它們實(shí)際上算是新的創(chuàng)作，意味著它們可以作為***受到保護(hù)。

民權(quán)倡導(dǎo)者正在采取未經(jīng)測試的法律手段來打擊他們所謂的“非性感色情”，使用類似的策略來打擊網(wǎng)絡(luò)騷擾、網(wǎng)絡(luò)跟蹤和復(fù)仇色情。律師表示，如果他們對深度假冒創(chuàng)作者的身份或策略了解足夠多，他們可以采用騷擾或誹謗法，或者發(fā)布限制令和撤銷通知。2016年，當(dāng)一名加州男子被指控在網(wǎng)絡(luò)色情圖片中添加前妻照片時(shí)，當(dāng)?shù)貦z察官嘗試了一種非常規(guī)策略，指控他犯有11項(xiàng)身份盜竊罪。

馬里蘭大學(xué)的法學(xué)教授Danielle Citron研究了打擊網(wǎng)絡(luò)虐待的方法，她表示，美國迫切需要一項(xiàng)更全面的刑事法規(guī)，涵蓋她所說的“侵犯性隱私和性格謀殺”?！拔覀冃枰嬲耐?，”她說。"否則，這只是一場打鼴鼠的游戲?！?/p>

谷歌代表表示，該公司認(rèn)真對待其道德責(zé)任，但對其人工智能工具的限制最終可能會(huì)限制開發(fā)人員積極推動(dòng)這項(xiàng)技術(shù)。

但是專門研究被操縱照片和視頻的達(dá)特茅斯學(xué)院計(jì)算機(jī)科學(xué)教授Hany Farid說，谷歌和其他科技巨頭需要“更加嚴(yán)肅地看待這項(xiàng)技術(shù)的武器化程度”。

“如果一位生物學(xué)家說，‘這是一種非?？岬牟《荆屛覀兛纯垂姼腥舅鼤r(shí)會(huì)發(fā)生什么’，這明顯是不可接受的。然而這正是硅谷一直在做的事情，”他說?！斑@表明它是一個(gè)非常不成熟的行業(yè)。我們必須了解這種危害，并放慢部署這種技術(shù)的速度?！?/p>

到目前為止，少數(shù)提議的解決方案對被攻擊的女性可能收效甚微。在看完視頻后，她說她非常憤怒，表示要采取法律行動(dòng)。

但是她尋找請求者的努力沒有取得任何進(jìn)展。他沒有回復(fù)郵件，帖子也已經(jīng)被刪除，他的賬號消失得無影無蹤。剩下的只是深度假貨視頻，而它已經(jīng)又被觀看了400多次。