High&NewTech：人工智能技術濫用之DeepNude技術(從下載致系統宕機→最后被禁用)而引發的AI道德底線的深度拷問—191017再次更新
導讀
? ? ? 前段時間，火了一陣子的基于DeepFake實現的換臉技術，帶來的肖像權、名譽權及引發的道德問題還未被平息，這個月底，又有人利用AI算法帶來了無底線的應用—DeepNude，著實挑戰了人工智能應用的道德底線。
? ? ? 就在前些天，國外某程序員利用人工智能算法設計了一款能夠一鍵脫的APP。只要給DeepNude軟件一張女性照片，借助卷積神經網絡技術，軟件可以自動“脫掉”女性身上的衣服，顯示出未穿衣服的照片。該應用一經上線，便被大量網友下載，迅速的導致系統宕機，造成了很多惡意應用。
?? ? ?當然，針對AI技術的濫用，很多著名學者都對此應用提出了嚴厲的批評。6月28日，Andrew Ng(吳恩達，華裔美國人，斯坦福大學計算機系副教授，曾擔任百度首席科學家)在推特上表示，聽到DeepNude死掉了，他非常高興，他認為DeepNude是AI上的一個惡心應用。并同時呼吁作為人工智能方面的研究者，更應該利用AI算法，去做一些推進社會進步、促進人類發展的有意義和有價值的事情上去。
相關文章
AI換臉：CV之Face Change：基于人工智能實現國內眾多一線美女明星換臉(基于Face++輸出4*106個特征點定位+融合代碼、deepfake技術)
? ? ? ? DeepNude was a deepfakes application which allowed to alter photos of a person to make them appear nude, designed to work on females. Several days after its June 23rd, 2019, release and rapid climb to popularity, the app was permanently shut down over the concerns of potential misuse, although already downloaded copies of the software were continued to be shared.
? ? ? ? On June 23rd, 2019, Windows and Linux application DeepNude, developed by an anonymous person known only as Alberto, was made available for download online (website no longer available).
On June 27th, 2019, Vice Motherboard featured a story on the app, titled "This Horrifying App Undresses a Photo of Any Woman With a Single Click", also talking to the creator of the app.[3] In the following days, multiple news outlets covered the story, including articles by The Verge.
? ? ? ?DeepNude是一款類似deepfake應用程序，它允許修改一個人的照片，使其看起來是裸體的，專為女性設計。該應用于2019年6月23日發布，并迅速走紅。幾天后，出于對潛在濫用的擔憂，該應用程序被永久關閉。
? ? ?2019年6月23日，由一位名叫阿爾貝托的匿名人士開發的Windows和Linux應用程序DeepNude可以在網上下載(目前網站不再提供)。2019年6月27日刊登了一篇應用程序,名為“這恐怖的應用脫下衣服的照片與單一點擊“任何女人,還跟應用程序的創建者。在接下來的日子里,多個新聞媒體介紹了故事。6月27日，由于訪問量過大，官方網站遭遇了一系列的崩潰。在同一天，DeepNude的創建者宣布，由于擔心應用程序可能被濫用，該服務已被永久關閉。
? ? ? ?這款應用的免費版本中，輸出的圖像有一部分被大水印遮住了，50美元的付費版本中去掉了水印。支付額外的50美元可以去除一個較小的“假”水印(如下圖所示，左邊和右邊)。雖然這款應用的下載量還不清楚，但在2019年6月27日，官方的DeepNude網站在關閉前因為高負載經歷了一系列崩潰。
? ? ? ?Motherboard聯系了DeepNude的創建者，此人化名為“阿爾貝托”（Alberto，匿名）。他表示，該軟件基于加州大學伯克利分校研究者開發的開源算法pix2pix創建，并使用1萬張女性LUO圖加以訓練。這一算法與之前的人工智能換臉技術deepfake算法相似，也和無人車技術所使用的算法相似。
? ? ? DeepNude使用pix2pix開源算法分析輸入圖像，識別服裝并刪除它，用生成的裸體圖像替換它。該算法在10000多張女性裸照的數據集上進行訓練。
? ? ? ?“阿爾貝托”表示，該軟件目前之所以只能用于女性照片，是因為女性LUO體圖像更容易在網上找到，但他希望能創建一個男性版本的軟件。他還表示，他繼續這一實驗是出于“有意思”和好奇心。“我不是偷窺狂。我是技術的愛好者，”他說，“繼續提升這個算法，最近也是吸取了之前的教訓（來自其它創業公司）和經濟上的問題，我問我自己是否可以在這個算法上獲得經濟回報。這就是我創建DeepNude的原因。”
? ? ? ?但Motherboard指出，之前就有deepfake在網絡上流傳，但這種技術很容易就會成為傷害女性的工具——要么在未經同意的前提下使用女性照片，要么在網上惡意散布SQ內容。而DeepNude相當于deepfake技術的進化版，操作更簡單，處理速度更快。所以，帶來的危害更大。
? ?其實，這款軟件并非完美無缺。大多數圖像，尤其是低分辨率圖像，產生了一些視覺偽影。Deepnude完全失敗了，因為有些照片使用了奇怪的角度、光線或衣服，這些照片似乎與它使用的神經網絡脫節了。當我們給它一張卡通人物杰西卡·兔子的圖像時，它會完全扭曲并破壞了圖像。
? ? ? ?網友評論：AI的換臉技術、脫衣技術，這件事，在今天可歸納為三句話：火是肯定要火的。亂是一定要亂的。如何監管，大概是不知道的。哦，對了，最后應該說一下如何防止別人做出你的AI換臉、脫衣視頻？不要發太多自拍，即使自拍的時候，切記多穿點衣服。
?? ? ?博主評論：濫用技術的深度拷問，人類在娛樂技術的同時，技術是不是也在嘲弄人類？?新技術不能突破法律底線。AI技術發展使普通人能享受到科技帶來的便利，但新技術應該驅動良性的文化創意更新迭代，切忌用到歪路上去，更不能突破底線挑戰公序良俗。
? ? ? 6月28日消息 此前，美國科技媒體Motherboard報道，Twitter用戶@deepnudeapp 最近開發出一款名叫DeepNude的APP，只要給DeepNude輸入一張女性照片，借助神經網絡技術，App可以自動“脫掉”女性身上的衣服，顯示出裸體。不過在6月28日凌晨，@deepnudeapp 宣布關閉這款App及網站。
? ? ? ?Hi! DeepNude is offline. Why? Because we did not expect these visits and our servers need reinforcement. We are a small team. We need to fix some bugs and catch our breath. We are working to make DeepNude stable and working. We will be back online soon in a few days. ——06.27
最新的一條消息：
? ? ? ?Here is the brief history, and the end of DeepNude. We created this project for user's entertainment a few months ago. We thought we were selling a few sales every month in a controlled manner. Honestly, the app is not that great, it only works with particular photos. We never thought it would become viral and we would not be able to control the traffic. We greatly underestimated the request.?
我們在幾個月前創建了這個娛樂項目。我們以為這款應用的傳播也在我們可控范圍內。事實上，這款應用并不是很完善，它只適用于特定的照片。我們從沒想過它會像病毒一樣傳播開來，以至于我們也無法控制，我們大大低估了用戶對這個應用的需求。
? ? ? ?Despite the safety measures adopted (watermarks) if 500,000 people use it, the probability that people will misuse it is too high. We don't want to make money this way. Surely some copies of DeepNude will be shared on the web, but we don't want to be the ones who sell it. Downloading the software from other sources or sharing it by any other means would be against the terms of our website. From now on, DeepNude will not release other versions and does not grant anyone its use. Not even the licenses to activate the Premium version.?
盡管采用了安全措施（加水印），但要是有50萬人使用它，人們濫用它的可能性就太高了。我們不想用這種方式賺錢。這款應用（制造出來）的一些裸體的副本會在網上被分享，我們不想成為出售這些“作品”的人。另外從其他來源下載或以任何其他方式共享本軟件（生成的作品）將違反本網站的條款。從現在開始，DeepNude將不會發布其他版本，也不會授權任何人使用，激活高級版本許可也將停止。
? ? ? ?People who have not yet upgraded will receive a refund. The world is not yet ready for DeepNude.?
? ? ? ?尚未升級的用戶將獲得退款。
? ? ?I’m glad DeepNude is dead. As a person and as a father, I thought this was one of the most disgusting applications of AI. To the AI Community: You have superpowers, and what you build matters. Please use your powers on worthy projects that move the world forward. --Andrew Ng
?? ? ?我很高興DeepNude死掉了。作為一個人和一個父親，我認為這是人工智能最惡心的應用之一。對于人工智能社區來說:你擁有超能力，你所建造的東西很重要。請把你的力量用在推動世界前進的有價值的項目上。
"This is absolutely terrifying," Katelyn Bowden, founder and CEO of revenge porn activism organization Badass, told Motherboard. "Now anyone could find themselves a victim of revenge porn, without ever having taken a nude photo. This tech should not be available to the public."
? ? ? ? “這絕對是可怕的，”Badass的創始人兼首席執行官凱特琳·鮑登告訴主板。現在，任何人都可以發現自己是報仇色情片的受害者，而不必拍裸照。這項技術不應該向公眾開放。”
This is an “invasion of sexual privacy,” Danielle Citron, professor of law at the University of Maryland Carey School of Law, who recently testified to Congress about the deepfake threat, told Motherboard.
? ? ? ? 馬里蘭大學凱里法學院（University of Maryland Carey School of Law）的法學教授丹妮爾·西特倫（Danielle Citron）最近向國會作證說，這是一種“侵犯性隱私的行為”，她向母板表示。
? ? ? Several media reports have noted how the app could be used to take a photo of a clothed woman and transform that into a nude image. Cyber Civil Rights Initiative (CCRI), which seeks protection against “revenge” porn tweeted, “This is a horrifically destructive invention and we hope to see you soon suffer consequences for your actions.” CCRI President Mary Anne Franks later tweeted, “It's good that it's been shut down, but this reasoning makes no sense. The app's INTENDED USE was to indulge the predatory and grotesque sexual fantasies of pathetic men.”
? ? ?一些媒體報道指出，該應用程序可以用來拍攝一個穿著衣服的女人的照片，并將其轉換成裸體圖像。網絡民權倡議（ccri），尋求保護免受“報復”，色情推特說，“這是一個可怕的破壞性發明，我們希望看到你很快遭受后果，你的行動。”ccri主席瑪麗安妮弗蘭克斯后來推特說，“很好，它被關閉，但這種推理毫無意義。這個應用程序的目的是放縱那些可悲的男人的掠奪性和怪誕性幻想。”
? ? ? DeepNude 軟件主要使用了 Image Inpainting for Irregular Holes Using Partial Convolutions 中提出的Image-to-Image技術，該技術有很多其它的應用，比如把黑白的簡筆畫轉換成色彩豐富的彩圖，你可以點擊下方的Image-to-Image Demo在瀏覽器中嘗試Image-to-Image技術。
1. Image Inpainting 圖像修復
論文 NVIDIA 2018 paper Image Inpainting for Irregular Holes Using Partial Convolutions and Partial Convolution based Padding.
? ? ? ? 在 Image_Inpainting(NVIDIA_2018).mp4 視頻中左側的操作界面，只需用工具將圖像中不需要的內容簡單涂抹掉，哪怕形狀很不規則，NVIDIA的模型能夠將圖像“復原”，用非常逼真的畫面填補被涂抹的空白。可謂是一鍵P圖，而且“毫無ps痕跡”。 該研究來自Nvidia的Guilin Liu等人的團隊，他們發布了一種可以編輯圖像或重建已損壞圖像的深度學習方法，即使圖像穿了個洞或丟失了像素。這是目前2018 state-of-the-art的方法。
2. Pix2Pix (need for paired train data)
DeepNude mainly uses this Pix2Pix technology.
論文 Berkeley 2017 paper Image-to-Image Translation with Conditional Adversarial Networks.
主頁 homepage Image-to-Image Translation with Conditional Adversarial Nets
? ? ? ? Image-to-Image Translation with Conditional Adversarial Networks 是伯克利大學研究提出的使用條件對抗網絡作為圖像到圖像轉換問題的通用解決方案。
3. CycleGAN (without the need for paired train data)
論文 Berkeley 2017 paper Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks
? ? ? ? CycleGAN使用循環一致性損失函數來實現訓練，而無需配對數據。 換句話說，它可以從一個域轉換到另一個域，而無需在源域和目標域之間進行一對一映射。 這開啟了執行許多有趣任務的可能性，例如照片增強，圖像著色，樣式傳輸等。您只需要源和目標數據集。
1. Obj-GAN
? ? ? 事實上，我們不需要圖像到圖像。我們可以使用gan直接從隨機值生成圖像或從文本生成圖像。\
?? ? ?微軟人工智能研究院（Microsoft Research AI）開發的新 AI 技術Obj-GAN可以理解自然語言描述、繪制草圖、合成圖像，然后根據草圖框架和文字提供的個別單詞細化細節。換句話說，這個網絡可以根據描述日常場景的文字描述生成同樣場景的圖像。
2. StoryGAN
? ? ? ?進階版神筆：只需一句話、一個故事，即可生成畫面。
? ? ? ?微軟新研究提出新型 GAN——ObjGAN，可根據文字描述生成復雜場景。他們還提出另一個可以畫故事的 GAN——StoryGAN，輸入一個故事的文本，即可輸出「連環畫」。當前最優的文本到圖像生成模型可以基于單句描述生成逼真的鳥類圖像。然而，文本到圖像生成器遠遠不止僅對一個句子生成單個圖像。給定一個多句段落，生成一系列圖像，每個圖像對應一個句子，完整地可視化整個故事。
? ? ? 現在用得最多的Image-to-Image技術應該就是美顏APP了，所以可以去開發一個更加智能的美顏相機。
參考文章
DeepNude：Part of a series on Deepfakes.
Don’t Try To Download DeepNude Apps From The Internet, Here’s Why
