我曾經(jīng)在前幾天的一周見(jiàn)聞03里面談到過(guò) DeepFake 可能帶來(lái)的問(wèn)題，不過(guò)也只是提了一嘴，沒(méi)細(xì)說(shuō)。
沒(méi)想到今天《射雕英雄傳》楊冪的換臉視頻上了熱搜，那也趁著這個(gè)機(jī)會(huì)，深入聊聊DeepFake。
先來(lái)看看熱搜的圖片。
這是原來(lái)的朱茵的臉
使用 Deepfake 換臉之后。
有什么感受？細(xì)思恐極？或者驚嘆于技術(shù)的力量?
那什么是 Deepfake ？
Deepfake
Deepfake，一個(gè)由“deep learning'（深度學(xué)習(xí)） 和 'fake'（假） 組成的混合詞，是一種基于人工智能的人物圖像合成技術(shù)。它用一種被稱為生成對(duì)抗網(wǎng)絡(luò)（GAN）的機(jī)器學(xué)習(xí)技術(shù)將現(xiàn)有的圖像和視頻疊加到原來(lái)的圖像和視頻之上，現(xiàn)有視頻和源視頻的結(jié)合創(chuàng)造了許多假視頻——現(xiàn)實(shí)中人（們)根本沒(méi)有做過(guò)這些事情。
舉個(gè)例子，創(chuàng)作出的這些假視頻可以被用來(lái)展示一個(gè)清白的人拍了愛(ài)情動(dòng)作片，或者通過(guò)改變手勢(shì)讓政治家看起來(lái)說(shuō)了它從未說(shuō)過(guò)的話。由于這些潛在的用處，deep fakes 通常被用于制造名人色情錄像或者報(bào)復(fù)色情。deep fake 也可以被用來(lái)創(chuàng)建虛假新聞和惡意的惡作劇。
翻譯自 Wikipedia[1]
簡(jiǎn)而言之，就是利用人工智能生成換臉視頻。
著名演員斯嘉麗·約翰遜在華盛頓郵報(bào)的采訪中表示：“讓任何一個(gè)人成為這項(xiàng)技術(shù)的攻擊目標(biāo)只是時(shí)間問(wèn)題。”在過(guò)去的一年中，斯嘉麗·約翰遜已經(jīng)被疊加到數(shù)十個(gè)性愛(ài)視頻中，其中一個(gè)“走光”視頻已經(jīng)在PronHub（國(guó)外一個(gè)主要的色情網(wǎng)站）上觀看了超過(guò) 150 萬(wàn)次。
目前，DeepFake 這項(xiàng)技術(shù)已經(jīng)被用于各類女星上，國(guó)內(nèi)的也不例外。
我們來(lái)看看 deepfake 在 Google Trends 的熱度變化
2017 年 Deepfake 技術(shù)發(fā)布時(shí)，曾經(jīng)掀起了一波高潮。后來(lái)由于這項(xiàng)技術(shù)極易被用于生成非自愿的色情視頻，Reddit、YouTube 等主流網(wǎng)站紛紛屏蔽了 Deepfake，但源代碼是開(kāi)源的，PronHub 上 Deepfake 的熱度也一直居高不下。
雖然這里只調(diào)取 Google Trends 的數(shù)據(jù)，不過(guò)在通用搜索引擎都是如此，在專業(yè)的網(wǎng)站自然更不必說(shuō)。
那 Deepfake 的門檻有多高？換言之，任何人都可以做么？
Deepfake 的門檻
門檻真的不高。
我們分別在 GitHub 和 YouTube 上搜索 “deepfake”。
我們可以很輕易地找到 deepfake 的項(xiàng)目地址 [2]
在 YouTube 上也很容易找到相關(guān)的教學(xué)視頻。
潘多拉的魔盒已經(jīng)打開(kāi)了，只要有市場(chǎng)，一定會(huì)有人滿足需求的。
甚至有人都做出了相關(guān)的 Windows 程序 fakeApp、facesway、deepfacelab [3] [4]。
FakeApp 只需要一個(gè)包含Nvidia GPU的個(gè)人電腦、3~4GB的存儲(chǔ)空間，就能生成換臉視頻。無(wú)需任何 AI 的知識(shí)。
剩下的，只剩下訓(xùn)練的數(shù)據(jù)了。
明星、政治家等公眾人物的影像資料非常多，所以極易獲取大量的訓(xùn)練數(shù)據(jù)，這也就導(dǎo)致了明星色情視頻和惡意政治視頻的泛濫。
如果數(shù)據(jù)太少，生成的視頻會(huì)有很多違背常識(shí)的地方，很容易看出來(lái)這是假視頻。通常而言，訓(xùn)練數(shù)據(jù)越多，生成的視頻越逼真。
數(shù)據(jù)量不夠，這可能是阻止將 Deepfake 用在普通人身上最后的一道門檻了。
但也別高興地太早。
且不說(shuō)現(xiàn)在日新月異的技術(shù)發(fā)展速度可能導(dǎo)致未來(lái)模型更強(qiáng)大，只需要很少的數(shù)據(jù)就能生成即為逼真的視頻。
想想我們平時(shí)在社交網(wǎng)絡(luò)上面發(fā)表的那些照片，朋友圈、微博上你多久發(fā)一次自拍？。還有那些發(fā)布在各大平臺(tái)的小視頻，視頻能夠提取的數(shù)據(jù)量可是遠(yuǎn)大于照片的。
而且通過(guò)社交賬號(hào)，完全可以順藤摸瓜找到社交關(guān)系網(wǎng)，他們可能也會(huì)在網(wǎng)絡(luò)上發(fā)布含有你的合照。
所以如果你經(jīng)常在社交網(wǎng)絡(luò)上發(fā)自拍，如果有人要刻意針對(duì)你，潛伏幾個(gè)月收集數(shù)據(jù)，你可能真的毫無(wú)察覺(jué)地就成為了某個(gè)奇怪影片的主角。
如果全過(guò)程被簡(jiǎn)化成「交錢」和「提供數(shù)據(jù)」，這完全可以催生出一個(gè)龐大的黑產(chǎn)市場(chǎng)。
畢竟，人生不如意事十之八九。
鑒別 Deepfake
上文提到過(guò)，如果數(shù)據(jù)量不夠的話，視頻里還是有很多漏洞能夠讓我們一眼辨清這是假視頻。
學(xué)界也在嘗試用 AI 判斷假視頻，但是看看下面的新聞。
AI也無(wú)法識(shí)別出“假視頻”，95%蒙混過(guò)關(guān)
（當(dāng)然，我們要相信魔高一尺，道高一丈）
此外，明星的假視頻我們至少還知道這是假的，但如果這項(xiàng)技術(shù)是針對(duì)普通人的呢？
我們退一萬(wàn)步講，假設(shè)我們真的可以鑒別假視頻。對(duì)于普通人造成的傷害可以彌補(bǔ)么？
你快要升職了，突然網(wǎng)上流出一堆你的小視頻而且傳到了公司。盡管第三方已經(jīng)確定了視頻是偽造的，但那又如何？同事們看你的眼神還會(huì)和以前一樣么？你還能以原來(lái)的心態(tài)在公司里呆著么？
再想想現(xiàn)在謠言和辟謠之間的斗爭(zhēng)，謠言動(dòng)動(dòng)嘴，辟謠跑斷腿。這還只是消息的傳播，假視頻的傳播應(yīng)該不會(huì)輸于消息吧？而且，恐怕在看到過(guò)視頻的人里面，能夠意識(shí)到它是假視頻的人只會(huì)是少數(shù)。
互聯(lián)網(wǎng)沒(méi)有刪除鍵。
當(dāng)視頻被傳上網(wǎng)絡(luò)之后，一切，就已經(jīng)是抹不掉的了。
我們能做什么？
說(shuō)起來(lái)挺無(wú)奈的，我們能做的很少。畢竟視頻的制作權(quán)是掌握在別人手中的。
但是就像我在這篇 在網(wǎng)上我們應(yīng)該怎樣保護(hù)自己的隱私 里面曾經(jīng)提到的一樣，對(duì)于絕大多數(shù)人而言，我們的個(gè)人信息都是可以被獲取的，只不過(guò)所耗費(fèi)的成本不同。我們能做的也只是盡可能提高獲取成本。
不過(guò)至少我們可以做到
1. 盡量少發(fā)含有自己正面肖像的照片、視頻到社交網(wǎng)絡(luò)上。
2. 社交網(wǎng)絡(luò)上發(fā)布的照片、視頻最好能夠對(duì)陌生人不可見(jiàn)。
3. 抵制 Deepfake 用于惡性誹謗，避免對(duì)當(dāng)事人造成二次傷害。
結(jié)語(yǔ)
引用《技術(shù)壟斷：文明向技術(shù)投降》里面的一段話做結(jié)語(yǔ)吧。
事實(shí)上，大多數(shù)人認(rèn)為技術(shù)是個(gè)可靠的朋友。這其中有兩個(gè)原因。首先，技術(shù)的確是個(gè)朋友。技術(shù)使生活變得更加便利和干凈，同時(shí)也延長(zhǎng)了人類的壽命。對(duì)于這樣的朋友，我們還能提出更多的要求嗎？其次，基于技術(shù)與文化之間長(zhǎng)久、密切和必然的聯(lián)系，人們不會(huì)仔細(xì)檢查技術(shù)會(huì)帶來(lái)什么樣的后果。技術(shù)這個(gè)朋友要求我們信任它、服從它，而大多數(shù)人也愿意這么做，因?yàn)樗鼮槲覀儙?lái)了豐厚的饋贈(zèng)。然而，這個(gè)朋友也有其黑暗的一面。它送來(lái)的禮物需要我們付出沉重的代價(jià)。
如果用最富于戲劇性的語(yǔ)言進(jìn)行表述的話，我們可以這樣譴責(zé)技術(shù)：技術(shù)不受控制的發(fā)展摧毀了人類至關(guān)重要的根源。技術(shù)所創(chuàng)造的文化缺乏道德根基，它破壞了某些心理過(guò)程和社會(huì)關(guān)系，破壞了人類生存的價(jià)值根基。
總而言之，技術(shù)壟斷既是朋友，又是敵人。
聯(lián)系客服
