如果某人能在其曾祖母的一張舊照片上看到她眨眼微笑，會(huì)有什么感覺(jué)？毫無(wú)疑問(wèn)，這會(huì)讓你感到害怕，但也會(huì)讓你懷舊嗎？根據(jù)傳統(tǒng)，可能會(huì)懷舊。

家譜公司MyHeritage最近推出了一項(xiàng)新功能，名為Deep Nostalgia，允許用戶(hù)在家庭照片中設(shè)置人臉動(dòng)畫(huà)。根據(jù)MyHeritage的數(shù)據(jù)，僅在最初的48小時(shí)內(nèi)，就有超過(guò)100萬(wàn)張照片被制作成動(dòng)畫(huà)。他們的一個(gè)博客說(shuō)：“用戶(hù)對(duì)此感到驚奇和感慨：有些人看到他們從未見(jiàn)過(guò)的祖先，有些是100多年前的祖先，他們行動(dòng)、眨眼和微笑，有些人則感動(dòng)得流下了眼淚，見(jiàn)證了他們逝去的親人在這么多年后的運(yùn)動(dòng)，只有靜止的照片來(lái)紀(jì)念他們。”

該網(wǎng)站在其常見(jiàn)問(wèn)題解答中承認(rèn)，人們可能會(huì)覺(jué)得這些視頻令人毛骨悚然。盡管如此，這項(xiàng)功能現(xiàn)在已經(jīng)成為一種新的趨勢(shì)，很多人都在用它來(lái)見(jiàn)證失去已久的親人的感動(dòng)。

根據(jù)MyHeritage的說(shuō)法，他們從D-ID公司獲得了這項(xiàng)技術(shù)的許可，D-ID是一家以色列公司，專(zhuān)門(mén)從事使用深度學(xué)習(xí)的視頻再現(xiàn)。

這家初創(chuàng)公司透露，他們沒(méi)有包括演講，以防止濫用這項(xiàng)技術(shù)，以創(chuàng)造深假的活著的人。盡管如此，他們已經(jīng)制作了一個(gè)宣傳視頻，用演講和音頻讓亞伯拉罕?林肯復(fù)活。難道不應(yīng)該被認(rèn)為是假的嗎？Deepfake技術(shù)在傳播虛假新聞方面引起了廣泛的負(fù)面關(guān)注和關(guān)注。因此，他們的邊界需要適當(dāng)?shù)卦O(shè)定，以決定這是否是一種威脅。

Deepfake是怎么工作的？

Deepfake使用基于人工智能的技術(shù)來(lái)操縱圖像、音頻和視頻，使它們看起來(lái)真實(shí)可信。這項(xiàng)技術(shù)使用機(jī)器學(xué)習(xí)系統(tǒng)以最小的成本快速合成視頻和音頻。像生成對(duì)抗網(wǎng)絡(luò)（GANs）這樣的神經(jīng)網(wǎng)絡(luò)被用來(lái)訓(xùn)練具有真實(shí)畫(huà)面的數(shù)據(jù)集，使它們能夠理解一個(gè)人的真實(shí)聲音、行為和表情。使用兩個(gè)獨(dú)立的機(jī)器學(xué)習(xí)模型，一個(gè)用于對(duì)提供的數(shù)據(jù)集進(jìn)行訓(xùn)練并制作圖像，另一個(gè)用于監(jiān)控這些制作并對(duì)合成進(jìn)行分級(jí)。如今，深度假貨是由人工智能和非人工智能算法創(chuàng)建的，不涉及GANs。

Deepfake在很多方面都是一種威脅，比如利用Deepfake音頻敲詐錢(qián)財(cái)，詐騙者針對(duì)名人和政客傳播假新聞等。

早在2019年，美國(guó)眾議院議長(zhǎng)南希?佩洛西的一段視頻就在社交媒體上流傳開(kāi)來(lái)，她講話(huà)異常緩慢和高亢。這段視頻后來(lái)被認(rèn)為是假的，因?yàn)樗淖兞嗽瓉?lái)的速度，使她的講話(huà)似乎含糊不清。這段視頻的目的是給她帶來(lái)負(fù)面影響，這不是第一次。有很多這樣的事件，被操縱的視頻四處傳播。

有什么好消息嗎？

Deepfake技術(shù)利用人工智能模擬人類(lèi)行為來(lái)制作視頻，它們因傳播錯(cuò)誤信息而臭名昭著。然而，有些領(lǐng)域?qū)嶋H上可以從深度偽造中獲益。電影業(yè)可以利用深度偽造技術(shù)編輯視頻，而無(wú)需重新拍攝，還可以重現(xiàn)在屏幕上去世的演員。培訓(xùn)和教育視頻可以利用Deepfake來(lái)實(shí)現(xiàn)虛擬材料，而無(wú)需人工干預(yù)。深度假冒技術(shù)還有其他好處，因此如果在道德基礎(chǔ)上使用，可以產(chǎn)生積極影響。

例如，MyHeritage推出的新功能可能會(huì)吸引很多人，但除非它跨越了界限。如果它以任何方式制造了錯(cuò)誤信息，它可能會(huì)受到嚴(yán)格的審查，因?yàn)橐呀?jīng)有關(guān)于深假技術(shù)的法規(guī)，許多立法正計(jì)劃將非自愿的Deepfake定為犯罪行為。
編輯：lyn