在這個你的網路身分與你本人直接關聯的世界裡，完美複製你的肖像的前景令人擔憂。但這正是深度偽造技術出現後我們所面臨的。
隨著科技變得越來越便宜、便利，深度偽造的風險究竟有多大？此外，如何才能辨識深度偽造與真品之間的差異？
快速連結
什麼是 deepfake？
Deepfakes 是指將影片或圖像中的人物替換成其他人的形象的媒體。該術語由“深度學習“ 和 ”偽造的它使用機器學習和人工智慧演算法來創建看起來非常逼真但卻是人造的媒體。
最簡單的情況是，你可能會發現一張臉疊加在另一個模型上。深度偽造技術發展到最極端的階段，會將毫無戒心的受害者嵌入到虛假色情影片、虛假新聞、惡作劇等等之中。
深度偽造的風險是什麼？
虛假影像 它始終存在。辨別真假是日常生活中很常見的部分，尤其是在數位媒體時代。但深度偽造技術帶來的問題有所不同，它對偽造影像和重製影片的辨識精度無與倫比。
喬丹皮爾 (Jordan Peele) 是首批接觸到更廣泛受眾的深度偽造影片之一，他在一段討論當前問題的影片中模仿了巴拉克歐巴馬：
這段影片看起來很粗糙，音訊很奇怪，克隆人的臉上也有一些凹凸不平。然而，它展示了深度偽造技術。
或者你有沒有想過，如果《駭客任務》裡扮演尼奧的不是基努李維，而是威爾史密斯，會是什麼樣子？ （誰沒想過呢？！）不用再想了：
這些影片並非惡意，因為它們需要數百小時的機器學習才能編譯完成。但這項技術本身可供任何擁有相應時間和計算能力的人使用。最初，使用深度偽造技術的門檻非常高。但隨著技術的進步和門檻的顯著降低，越來越多的人開始將深度偽造技術用於各種負面和有害的目的。
在我們深入探討深度偽造技術的陰暗面之前，先來看看金凱瑞在《閃靈》中取代傑克尼克遜的情況：
1. 多位明星的虛假色情內容
深度偽造技術帶來的主要威脅之一是色情產業，也就是人們常說的「假色情」。目前有成千上萬的深度偽造視頻，其中充斥著艾瑪華森、娜塔莉波曼和泰勒絲等女性名人的面孔。
它們都使用虛假的機器學習演算法將名人的臉裁剪到女演員的身上，並且都在多個成人內容網站上吸引了數千萬的瀏覽量。
然而，這些網站都沒有針對名人深度偽造採取任何措施。
喬治奧·帕特里尼說 「除非有強有力的理由刪除和過濾這些內容，否則什麼都不會發生，」深度偽造檢測和分析公司 Sensity 的執行長兼首席科學家表示。 “人們可以繼續自由地在這些擁有數億人瀏覽的網站上上傳此類內容，而不會受到任何後果。”
正如一些深度偽造內容創作者所聲稱的那樣，這些影片具有剝削性，而且遠非沒有受害者。
2. 影響一般民眾的虛假色情內容
還有什麼比名人演出的假A片更糟糕？沒錯：這些假色情片的主角是一些不太知名或不太出名的女性，如果她們被虛假地描繪在色情影片或類似內容中，她們的人生可能會被毀掉。 Sensity 的一項研究發現，社群通訊應用程式 Telegram 上的一個深度偽造機器人製作了超過 100.000 萬張假裸照。其中許多照片是從朋友、女友、妻子、母親等社交媒體帳戶中竊取的。
這款機器人代表了深度偽造技術的重大進步，因為上傳圖片的機器人不需要任何深度偽造、機器學習或人工智慧方面的知識。這是一個自動化的過程，只需要一張圖片。此外，Telegram 機器人似乎只支援女性圖片，而且高級訂閱（更多圖片，去浮水印）非常便宜。
說實話：這類人工智慧研究的推動者幾乎都是男性。而它的受害者幾乎都是女性。 “如果這種糟糕的事情發生在他們身上，而不是街上某個女人身上，他們會如此漫不經心嗎？” https://t.co/d3rbIb9g5F
——德魯·哈威爾 (@drewharwell) 2020 年 10 月 20 日
與深度偽造的名人圖片一樣，Telegram 機器人深度偽造圖片也具有剝削性、濫用性和不道德性。它們可以輕鬆存取配偶、伴侶、家人、同事或雇主的收件箱，並可能在過程中毀掉人們的生活。勒索和其他形式敲詐勒索的可能性極高，這加劇了色情報復等現有問題的威脅。
Telegram 上深度偽造的傳播也帶來了另一個問題。 Telegram 是一種注重隱私的即時通訊服務，不會對使用者造成太大干擾。它有刪除色情和其他成人相關機器人的政策，但目前尚未採取任何行動。
3. 欺騙性材料
你已經看過喬丹皮爾飾演的歐巴馬了。在這段影片中，他警告了深度偽造的危險。深度偽造技術的主要擔憂之一是，有人可能會製作並發布過於逼真的視頻，從而導致某種悲劇。
極端情況下，有人認為深度偽造影片內容可能會引發戰爭。但深度偽造還會帶來其他嚴重後果。例如，一段包含大型企業或銀行執行長發表損害性言論的虛假視頻，可能會引發股市崩盤。這同樣是極端情況。但真人可以驗證影片的真實性，而全球市場也會對這項消息做出即時反應，引發自動拋售。
另一個需要考慮的問題是規模。隨著深度偽造內容製作成本的上升，同一個人製作大量深度偽造內容的可能性也隨之增加，這些內容專注於以不同的顏色、位置、風格等傳遞相同的虛假訊息。
4. 否認真實材料
作為欺騙性和虛假材料的延伸，你應該考慮到深度偽造將變得非常逼真，以至於人們會開始質疑影片是否真實，無論內容為何。
如果有人犯罪，唯一的證據就是一段視頻，那他們怎麼能不說「這是假的，是偽證據」呢？反過來，如果偽造視訊證據讓別人發現呢？
5. 受錯誤思維和社會關係的引導
目前已有多起涉及深度偽造內容的案例，這些內容冒充思想領袖。領英和推特上的個人資料詳細介紹了戰略組織中的高層職位，但這些角色並不存在，很可能是使用深度偽造技術偽造的。
然而，這並非深度偽造獨有的問題。自古以來，政府、間諜網和企業就一直使用虛假的個人資料和身分來收集資訊、推進議程並進行操控。
6. 網路釣魚、社會工程和其他詐騙
就安全而言，社會工程學早已是個問題。人們渴望信任他人，這是人之常情。但這種信任可能導致安全漏洞、資料竊取等等。社會工程學通常需要個人接觸，無論是透過電話、視訊聊天或其他類似方式。
假設有人利用深度偽造技術冒充企業經理，取得安全碼或其他敏感資訊，那麼這可能會引發大量深度偽造詐騙。
如何識別和檢測深度偽造
隨著深度偽造品質的提升，檢測深度偽造變得至關重要。早期深度偽造存在一些小問題：影像模糊、視訊損壞和偽影以及其他缺陷。然而，隨著使用該技術的成本迅速下降，這些令人擔憂的問題正在減少。
目前還沒有完美的方法來檢測深度偽造內容，但這裡有四個有用的提示：
- 細節。 儘管深度偽造技術已經非常成熟，但仍有一些小問題亟待解決。具體來說，就是影片中的細微細節，例如頭髮運動、眼球運動、臉頰結構、言語動作以及不自然的臉部表情。眼球運動至關重要。雖然深度偽造技術現在可以有效地捕捉眨眼（在早期，眨眼是一大亮點），但眼球運動仍然是一個問題。
- 情懷。 與細節的連結關乎情感。如果有人在發表強而有力的言論，他們的臉部表情會在傳達細節的同時展現出一系列的情緒。 Deepfake 技術無法傳遞與真人同等深度的情感。
- 矛盾。 視訊品質達到了前所未有的高度。你口袋裡的智慧型手機就能以 4K 解析度錄製和傳輸影片。當一位政治領袖發表演說時，他們面對的是一間擺滿頂級錄音設備的房間。因此，糟糕的錄音品質（無論是視訊還是音訊）形成了鮮明的對比。
- 來源。 該影片是否出現在經過驗證的平台上？社群媒體平台使用驗證來確保全球知名人士不會模仿它們。當然，這些平台也存在一些問題。但檢查某個特別露骨的影片的播放或託管位置將有助於你判斷它是否真實。你也可以嘗試 執行反向影像搜索 尋找該圖像在網路上的其他地方。
偵測和防止深度偽造的工具
在對抗深度偽造檢測的鬥爭中，你並不孤單。許多大型科技公司正在開發深度偽造檢測工具，而其他平台也正在採取措施永久屏蔽深度偽造內容。
例如，微軟的深度偽造檢測工具 Microsoft Video Authenticator 可以在幾秒鐘內分析視頻，並告知用戶其真實性（示例見下方 GIF）。同時，Adobe 也支援對內容進行數位簽名，以防止其被竄改。
微軟的視訊認證器應用程式將識別深度偽造，快速分析特徵https://t.co/dFQBclXJgL
— 加文·菲利普斯（@GavinSpavin） 2020 年 10 月 26 日
Facebook 和 Twitter 等平台已經禁止了惡意深度偽造內容（像《駭客任務》中的威爾史密斯這樣的深度偽造內容仍然是可以接受的），而谷歌正在開發一種文本轉語音分析工具來對抗虛假音頻片段。
Deepfake 即將到來 — — 而且會越來越好。
事實上，自2018年深度偽造技術成為主流以來，其主要用途就是虐待女性。無論是利用名人面孔製作虛假色情內容，還是在社群媒體上扒光某人的裸體，其目的都是為了剝削、操縱和羞辱世界各地的女性。
毫無疑問，一場深度偽造的叛亂即將來臨。這種技術的興起對公眾構成了威脅，然而卻幾乎沒有任何手段可以阻止其發展。
