陳根：已超10萬(wàn)受害者，AI脫衣有多危險(xiǎn)？

文/陳根

2019年6月，一款名為DeepNude的應(yīng)用在海內(nèi)外爆紅。令其爆紅的原因只有一個(gè)——只要給出一張女性照片，DeepNude借助神經(jīng)網(wǎng)絡(luò)技術(shù)，就可以自動(dòng)“脫掉”女性身上的衣服，顯示出裸體。

對(duì)于神經(jīng)網(wǎng)絡(luò)技術(shù)的理解門(mén)檻雖高，但應(yīng)用卻并不費(fèi)力，因?yàn)閷?duì)于使用者來(lái)說(shuō)，無(wú)需任何技術(shù)知識(shí)，一鍵即可獲取。一時(shí)間，大量色情圖片在網(wǎng)絡(luò)泛濫，很快，DeepNude級(jí)在輿論批評(píng)聲中下架了。

在人們對(duì)DeepNude一鍵“脫衣”的震撼還未完全淡去時(shí)，這款色情的軟件再次出現(xiàn)在了即時(shí)消息應(yīng)用程序——Telegram中。而這次關(guān)于DeepNude的發(fā)現(xiàn)，影響更甚，危害也更大。

這項(xiàng)關(guān)于DeepNude的調(diào)查來(lái)自美國(guó)阿姆斯特丹的網(wǎng)絡(luò)安全公司Sensity，這家公司專(zhuān)注于所謂的“視覺(jué)威脅情報(bào)”，尤其是那些深度造假視頻的傳播。

據(jù)Sensity報(bào)告顯示，目前DeepNude已經(jīng)產(chǎn)生了68萬(wàn)以上女性的假裸照，在TeleGram平臺(tái)已經(jīng)公開(kāi)發(fā)布了約104,852張色情圖片，其中70%的照片來(lái)自社交媒體或私人渠道，而這一數(shù)據(jù)還不包括私下分享傳播的圖片。

更重要的是，這些圖片70%全部來(lái)自社交網(wǎng)絡(luò)中的真實(shí)女性，甚至包括未成年人。這意味著，日常在Facebook、微博等社交媒體中分享的自拍照，很可能會(huì)被人用來(lái)生成“裸照”。

DeepNude成熟背后的技術(shù)背景

DeepNude的成熟，離不開(kāi)一個(gè)名為DeepFakes的軟件被匿名開(kāi)源發(fā)布。2017年，ID 為“deepFakes”發(fā)布了通過(guò)機(jī)器學(xué)習(xí)來(lái)更換視頻人臉的AI 算法。

DeepFakes是“deep machine learming”（深度機(jī)器學(xué)習(xí)）和“Fake photos”（假照片）的組合，是依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，基于數(shù)據(jù)算法和人臉數(shù)據(jù)庫(kù)對(duì)既有視頻或圖片中的人物面部圖像進(jìn)行替換的技術(shù)工具。在開(kāi)源代碼庫(kù)平臺(tái)CitHub上，DeepFakes被描述為“一種利用深度學(xué)習(xí)技術(shù)來(lái)識(shí)別和交換圖片、視頻中人物臉部圖像的工具”。

只要有足夠的圖片視頻素材，有一定的硬件支持，DeepFakes就可以搭建算法匹配模型進(jìn)行換臉視頻的制作。具體原理思路為：對(duì)于每張臉，都訓(xùn)練一套編碼器和相應(yīng)的解碼神經(jīng)網(wǎng)絡(luò)。編碼時(shí)，使用的是第一個(gè)人的圖片。而解碼時(shí)，卻是使用第二個(gè)人的解碼器。而其中主要包含數(shù)據(jù)預(yù)處理、圖片融合、圖像預(yù)處理、網(wǎng)絡(luò)模型、圖像融合等技術(shù)。

此外，利用AI制作換臉視頻除了要借助已開(kāi)源的DeepFakes技術(shù)，還需要兩個(gè)競(jìng)爭(zhēng)AI系統(tǒng)的參與，一個(gè)是生成模型，另一個(gè)是判別模型。生成模型和判別模型的結(jié)合被稱(chēng)為CAN（CenerativeAderaril Netwoks，生成對(duì)抗網(wǎng)絡(luò)技術(shù)，簡(jiǎn)稱(chēng)“GAN”，是深度學(xué)習(xí)原理中重要的監(jiān)督學(xué)習(xí)模型），也是AI換臉最底層的邏輯。

GAN是AI機(jī)器學(xué)習(xí)中較成熟的理論，在最開(kāi)始的技術(shù)中，DepFakes正是借助生成對(duì)抗網(wǎng)絡(luò)，通過(guò)上萬(wàn)張照片來(lái)替換視頻每秒鐘存在的30個(gè)畫(huà)面，最終通過(guò)GPU（CaphiesPoesing Unit，圖形處理器，簡(jiǎn)稱(chēng)“GPU”）訓(xùn)練完成“移花接木”，僅憑一張照片便可實(shí)現(xiàn)面部替換和視頻生成。

但當(dāng)時(shí)該技術(shù)的使用門(mén)檻還比較高，需要編譯代碼等操作。然而，當(dāng)DeepFakes技術(shù)的持有人在網(wǎng)絡(luò)論壇中直接開(kāi)源了該技術(shù)的算法代碼并在GitHub上建立了開(kāi)源項(xiàng)目時(shí)，一切都不一樣了。

DeepFakes技術(shù)變得唾手可得，后來(lái)的AI換臉App和DeepNude出現(xiàn)正是基于這一技術(shù)，不同的是，對(duì)比DeepFakes需要大量的技術(shù)專(zhuān)業(yè)知識(shí)、龐大的數(shù)據(jù)集以及昂貴的GPU，DeepNude更容易使用，也更容易訪問(wèn)。時(shí)下的DeepNude操作已非常簡(jiǎn)單，只需要一張照片，上傳至軟件后，幾秒就可以自動(dòng)生成裸照，不需要任何技術(shù)知識(shí)或者專(zhuān)門(mén)的硬件支持。

DeepNude令人悚然的盈利背后

盡管DeepNude可供所有人免費(fèi)使用，但它也有其盈利模式，未付費(fèi)用戶獲得的裸照后會(huì)打上水印標(biāo)簽或者只有局部裸露，用戶支付1.28美元才可以獲得無(wú)水印圖片，但使用權(quán)限僅限七天100張。用戶也可以通過(guò)介紹他人使用這項(xiàng)服務(wù)來(lái)賺錢(qián)。

此外，DeepNude還在VK網(wǎng)站上發(fā)布了廣告，據(jù)統(tǒng)計(jì)，在該網(wǎng)站上目前已經(jīng)有了380頁(yè)的搜索量。這種病毒式的擴(kuò)張方式，讓DeepNude的會(huì)員迅速增長(zhǎng)。

根據(jù)Sensity的報(bào)告，DeepNude在去年6月就已上線，上線兩個(gè)月用戶幾乎過(guò)萬(wàn)，到今年6月，已經(jīng)有了4.5萬(wàn)用戶。截至7月底，Telegram平臺(tái)七個(gè)主要頻道均在使用DeepNude軟件。DeepNude的使用者還在telegram上成立了社區(qū)。而目前這個(gè)社區(qū)已有成員多達(dá)101,080人，其中70%居住在俄羅斯或東歐。

低門(mén)檻的使用和低廉的價(jià)格帶來(lái)了可觀的收益和病毒式的擴(kuò)張，而背后的代價(jià)卻令人警惕和感到悚然。

技術(shù)的社會(huì)屬性是技術(shù)社會(huì)風(fēng)險(xiǎn)形成的根源。技術(shù)應(yīng)用是一面鏡子，映射出人類(lèi)文明的發(fā)展水平，而DeepNude的走紅則在狂歡中直逼道德底線。其惡劣的一鍵“脫衣”實(shí)際上打開(kāi)了女性被攻擊的可能性，其應(yīng)用程序和易訪問(wèn)性更意味著女性在網(wǎng)上面臨的更大的網(wǎng)絡(luò)騷擾或危險(xiǎn)題，這將對(duì)社會(huì)造成巨大影響。

一方面，DeepNude的一鍵“脫衣”勢(shì)必會(huì)對(duì)被換臉者的聲譽(yù)造成影響。除了對(duì)肖像權(quán)名譽(yù)權(quán)的侵犯，不法分子往往會(huì)利用該技術(shù)制作帶有特定人臉的不雅視頻進(jìn)行敲詐勒索牟利。

比如，前幾年合成艷照敲詐勒索官員的案例，不法分子為非法牟利，從網(wǎng)上搜索社會(huì)成功、知名人士的頭像合成不雅照片，利用他們懼怕丑聞、顧及名譽(yù)的心理特點(diǎn)進(jìn)行敲詐勒索。互聯(lián)網(wǎng)時(shí)代，不雅視頻或不雅圖片這類(lèi)信息的傳播很難得到控制，給相關(guān)當(dāng)事人帶來(lái)的負(fù)面影響也是深遠(yuǎn)持久的。

另一方面，通過(guò)DeepNude，任何用戶使用任何照片都可以生成裸照，而這將大大增加制作、傳播、販賣(mài)淫穢物品牟利犯罪可能性。

Deepfake偽造色情視頻已經(jīng)屢見(jiàn)不鮮，主要以為名人為目標(biāo)。其也由最初的色情視頻制作，到后來(lái)的全民娛樂(lè)、惡搞，發(fā)展到今天已經(jīng)走向了制作、傳播淫穢物品牟利的黑色產(chǎn)業(yè)。但根據(jù)一項(xiàng)民意調(diào)查顯示，大多數(shù)用戶對(duì)“現(xiàn)實(shí)生活中認(rèn)識(shí)的女性”更感興趣，占比達(dá)到了63%。

DeepNude恰好提供了這樣的支持，從TeleGram平臺(tái)的公開(kāi)數(shù)據(jù)來(lái)看，許多照片中的女性都是普通上班族、大學(xué)生，而且這些照片都是來(lái)自TikTok、Instagram、Facebook等平臺(tái)的自拍照。

這為色情的傳播帶來(lái)了新的興奮點(diǎn)和吸引力，滿足了相關(guān)人群獵奇、好奇等多重心理需求，容易產(chǎn)生一定的受眾群體和市場(chǎng)。但這種以非法牟利為目的制作色情視圖并上傳到互聯(lián)網(wǎng)甚至出售的行為，已經(jīng)構(gòu)成制作、傳播、販賣(mài)淫穢物品牟利罪，不僅有悖社會(huì)道德和公序良俗，更是對(duì)互聯(lián)網(wǎng)健康環(huán)境和良好秩序的挑戰(zhàn)。

技術(shù)與與倫理的巨大鴻溝

對(duì)于女性強(qiáng)有力的攻擊是第一步，然后呢？新興技術(shù)拓展了新的領(lǐng)域與空間，倫理規(guī)范等卻還停留在過(guò)去。DeepNude只是人工智能矩陣的一個(gè)產(chǎn)品之一，而其本質(zhì)上是一種偽造手段，除了娛樂(lè)或私欲外，其社會(huì)的危害程度不容小覷，濫用風(fēng)險(xiǎn)涉及方方面面，“深度偽造”的算法技術(shù)與與倫理之間的巨大鴻溝造成了社會(huì)頻發(fā)的爭(zhēng)議，讓人謹(jǐn)之慎之。

人類(lèi)的面部與身份特征都被數(shù)字化，算法將人的身份拆解，傳統(tǒng)意義上的身份特質(zhì)分解并與他人的身份特質(zhì)再組合重構(gòu)，人工智能再造的虛擬形象以擬制主體身份展現(xiàn)在真實(shí)的人類(lèi)面前，在倫理上必然造成社會(huì)的恐慌與倫理重構(gòu)。

人的體貌特征融合后不再具體的某個(gè)人典型的身份，跨越了國(guó)界種族的限制，失去了辨識(shí)度，一方面容易造成社會(huì)角色混亂與身份特征混淆。另一方面，自然人的身份被商品化也并非當(dāng)下社會(huì)倫理所能接受，在相關(guān)人員不知情情況下，復(fù)制、改造他人的面孔，甚至惡意融合不雅內(nèi)容以謀求金錢(qián)利益，構(gòu)成對(duì)他人尊嚴(yán)的損害，被解構(gòu)整合身份特征的人淪為被消費(fèi)的商品。

此外，現(xiàn)階段深度偽造的生成物所依托的技術(shù)手段足以達(dá)到以假亂真的程度，“眼見(jiàn)為實(shí)”不再適用，人類(lèi)難以在日常的社會(huì)生活中區(qū)分?jǐn)?shù)字面孔與自然人，虛假內(nèi)容輕易取得信任，真?zhèn)沃骐y上加難，合理的猜測(cè)與過(guò)度猜忌的界限更加難以平衡，這必然對(duì)社會(huì)造成更大的信賴(lài)難題。

真?zhèn)谓缦薇粩?shù)字化操縱，娛樂(lè)的趣味性與真相的真實(shí)性在混淆視聽(tīng)的人工智能生成物問(wèn)世后更加模糊。“娛樂(lè)至死”的扭曲價(jià)值沖擊著當(dāng)下倫理觀，進(jìn)而引發(fā)一場(chǎng)社會(huì)信任危機(jī)。

最后，宗教信仰、種族國(guó)籍、國(guó)際政治領(lǐng)域所涉及的問(wèn)題具有敏感性，更加需要真實(shí)報(bào)道與平等人權(quán)的保護(hù)，肆意更換外貌特征與偽造具有特殊意義的視頻在這些領(lǐng)域的濫用，在社會(huì)穩(wěn)定上的破壞力可能直接引發(fā)難以控制的后果。

《如何輸?shù)粜畔?zhàn)》一書(shū)的作者尼娜·揚(yáng)科維茨（Nina Jankowicz）就指出，DeepNude對(duì)世界各地的女性都有巨大的影響，尤其是在俄羅斯這樣的社會(huì)保守國(guó)家。如果一張令人信服但卻是假的裸照公之于眾，受害者可能面臨失去工作和生計(jì)的風(fēng)險(xiǎn)。有些人可能面臨伴侶暴力。

同時(shí)，利用偽造技術(shù)生成政治領(lǐng)袖發(fā)表不當(dāng)言論的音視頻，不符宗教信仰的行為，威脅國(guó)際關(guān)系的各種材料，將會(huì)大幅度增加社會(huì)關(guān)系復(fù)雜性，不利于社會(huì)穩(wěn)定局面與國(guó)家長(zhǎng)治久安。

盡管對(duì)于“深度偽造”技術(shù)的檢測(cè)方式越來(lái)越多，準(zhǔn)確度越來(lái)越高，但事實(shí)上，制造虛假視頻或圖像的趨勢(shì)依然沒(méi)有得到很好的抑制。究其原因，其一可能是AI生成虛假內(nèi)容越來(lái)越方便，如DeepNude，只需要一張照片，人人都可以上手。而其二，如Sensity公司負(fù)責(zé)人所說(shuō)，DeepNude目前還處于法律的灰色地帶。

而人工智能“脫衣”只是數(shù)字科技所引發(fā)的科技倫理問(wèn)題之一，隨著人工智能類(lèi)人機(jī)器人的出現(xiàn)，人類(lèi)的兩性關(guān)系與婚姻倫理將受到根本性的沖擊、挑戰(zhàn)與改變。可以說(shuō)這個(gè)時(shí)代是最美好的時(shí)代，也是最具有挑戰(zhàn)性的時(shí)代，我們的道德、價(jià)值、倫理因?yàn)榭萍嫉陌l(fā)展在經(jīng)受著不斷的挑戰(zhàn)與沖擊。

技術(shù)的傷害從來(lái)不在于技術(shù)本身，而只在于使用技術(shù)的人，對(duì)技術(shù)知識(shí)的封堵和審查，既無(wú)法阻止其擴(kuò)散和傳播也不利于社會(huì)的進(jìn)步，最后，所有的爭(zhēng)論都回到了人類(lèi)本身，只有人心向善，才能科技至善。

本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊舉報(bào)。

开心六月综合激情婷婷|欧美精品成人动漫二区|国产中文字幕综合色|亚洲人在线成视频