在電腦和人工智慧模型效能快速提升的科技時代，深度偽造技術日益盛行，並引發廣泛關注。深度偽造技術是指創建看起來像是由人類錄製的高解析度視覺或音訊內容。深度偽造技術威脅社會的各個層面。
識別虛假內容的能力對於打擊虛假資訊至關重要。但隨著人工智慧技術的進步，我們該相信誰來偵測深度偽造？問題是：誰更擅長偵測深度偽造：人類還是人工智慧？
數千年來，人類已經能夠辨別聲音、臉孔，並理解語言。但人工智慧驅動的機器是否能夠超越這些能力？本文探討了深度偽造檢測的挑戰和發展，並在此背景下比較了人類和人工智慧的能力。查看 如何判斷影片是否被 Deepfake 技術修改過？
快速連結
Deepfake 的風險
隨著人工智慧技術的進步，深度偽造技術的風險對我們所有人的威脅日益加劇。以下簡要概述了深度偽造技術帶來的一些最迫切的問題：
- 誤導性： 虛假視訊和錄音可能會傳播虛假訊息，例如虛假新聞。
- 冒充： 透過冒充個人，深度偽造技術可以損害人們的聲譽或欺騙他們認識的任何人。
- 國家安全： 使用深度偽造的一個明顯的戰爭場景是世界領導人煽動衝突的偽造鏡頭或錄音。
- 民間騷亂： 各方也可能使用欺騙性的鏡頭和音訊片段來煽動特定群體的憤怒和內亂。
- 網路安全： 網路犯罪分子已經在使用人工智慧語音克隆工具，利用熟人的令人信服的資訊來攻擊目標個人。
- 隱私和同意： 深度偽造的惡意使用表現為未經個人同意。
- 信任與缺乏信任： 如果你無法分辨真相和謊言，準確的資訊也會變得同樣不可信。
Deepfake 技術將變得更加逼真，因此我們需要強大的工具和方法來檢測它。人工智慧以 Deepfake 檢測模型的形式提供了一種這樣的工具。然而，與用於識別 AI 生成文字的演算法一樣，Deepfake 偵測工具並非完美無缺，也不會完全準確。
目前，人類的判斷是我們唯一可以依賴的工具。那麼，我們在辨識深度偽造方面比演算法更勝一籌嗎？
演算法能比人類更好地偵測深度偽造嗎？
Deepfake 技術構成瞭如此嚴重的威脅，以至於科技巨頭和研究機構正在投入大量資源進行研發。 2019 年，Meta、微軟和亞馬遜等公司在一次挑戰賽中提供了 100 萬美元的獎金。 Deepfake檢測挑戰 以獲得最準確的檢測模型。
表現最佳的模型在公開視訊資料集上的準確率高達 82.56%。然而，當用同樣的模型對包含 10000 個未公開影片的「黑盒」資料集進行測試時，表現最佳的模型準確率僅為 65.18%。
我們也有大量研究分析了基於人工智慧的深度偽造檢測工具與人類相比的表現。當然，不同研究的結果會有所不同，但整體而言，人類的成功率與深度偽造檢測工具相當，甚至更高。
2021 年發表的一項研究發現： 國家科學院院刊 「普通人類觀察者」的準確率略高於領先的深度偽造檢測工具。然而，研究也發現，人類參與者和人工智慧模型容易出現各種類型的錯誤。
有趣的是， 雪梨大學 我發現，人類大腦在潛意識中辨識深度偽造的效果比我們的意識更有效。查看 深度偽造技術的主要風險及其檢測方法.
發現 Deepfake 技術中的視覺線索
深度偽造檢測的科學原理十分複雜，所需的分析方法因影片的性質而異。例如，2020 年北韓領導人金正恩的偽造影片本質上是一段討論影片。在這種情況下，偵測深度偽造最有效的方法可能是分析音訊（嘴部動作）和語音（聲音）是否存在不一致之處。
即使結果有所不同，人類專家、普通觀察者和演算法都可以執行此類分析。 麻省理工學院 （麻省理工學院）八個問題幫助您辨識假影片：
- 注意臉部複雜的深度偽造操作通常是臉部變形。
- 注意臉頰和前額。皮膚看起來太光滑還是太皺？皮膚年齡與頭髮和眼睛的年齡是否相符？它們在某些方面可能不匹配。
- 注意眼睛和眉毛。陰影是否出現在您預期的位置？ Deepfake 技術可能無法完全呈現場景的自然物理特性。
- 注意眼鏡有眩光嗎？眩光嚴重嗎？眩光的角度會隨著人的移動而改變嗎？同樣，深度偽造技術可能無法完全再現照明的自然物理特性。
- 臉部毛髮或缺乏毛髮這些鬍子看起來真實嗎？深度偽造技術可能會添加或刪除鬍子、鬢角或鬍鬚。然而，深度偽造技術可能無法實現完全自然的鬍子變化。
- 注意臉部痣這顆痣看起來是真的嗎？
- 注意睫毛這個人眨眼的次數是否足夠或過多？
- 注意嘴唇的動作一些深度偽造依賴於唇形同步。這些唇部動作看起來自然嗎？
最新的AI深度偽造檢測工具可以分析相同的因素，但成功率各不相同。資料科學家也不斷開發新方法，例如偵測螢幕演講者臉部的自然血流。新技術和現有方法的改進，可能會使AI深度偽造檢測工具在未來的表現持續超越人類。
偵測深度偽造中的音訊線索
偵測虛假音訊則是完全不同的挑戰。由於缺乏視訊的視覺線索以及識別視聽不一致的能力，深度偽造檢測嚴重依賴音訊分析（元資料驗證等其他方法在某些情況下也能提供幫助）。
一項由 倫敦大學學院 2023年，人類辨識虛假音訊的準確率高達73%（英語和國語）。就像深度偽造影片一樣，即使人類聽眾無法辨識出哪些聲音聽起來不自然，他們通常也能直觀地察覺到AI生成的語音中存在不自然的語音模式。
常見症狀包括：
- 同化
- 缺乏表達。
- 背景噪音或乾擾。
- – 聲音或言語不一致。
- 聲音缺乏「飽滿度」。
- 過度書寫的交付。
- 沒有瑕疵（錯誤的開始、糾正、清喉嚨等）。
同樣，演算法也可以分析語音中相同的深度偽造訊號，但新方法使這些工具更有效。研究發現 優尼克斯 AI 聲道重建中的模式無法模仿自然語音。這表明，AI 語音生成器產生的聲音模仿的是狹窄的聲道（大約相當於吸管的大小），而沒有人類語音的自然運動。
先前的研究 霍斯特·格爾茨研究所 透過分析英語和日語的真實和虛假音頻，它揭示了真實和虛假語音高頻的細微差別。
人類聽眾和AI檢測模型都能感知到聲道和高頻的不一致。就高頻變化而言，理論上AI模型可以變得越來越準確——儘管AI生成的深度偽造作品也是如此。
人類和演算法都被深度偽造技術所欺騙，但方式不同。
研究表明，人類和最新的人工智慧檢測工具能夠類似地識別深度偽造。根據測試標準，成功率在 50% 到 90% 之間。
因此，人類和機器被深度偽造欺騙的程度相似。然而，至關重要的是，我們每個人都有不同的弱點，而這或許正是我們應對深度偽造技術風險的最大優勢。將人類和深度偽造檢測工具的優勢結合起來，可以彌補彼此的弱點，提高成功率。
例如，我發現 麻省理工學院研究 人類比人工智慧模型更擅長識別世界領導人和名人的假圖像。研究還顯示，人工智慧模型難以捕捉多人的音頻，儘管這表明這可能是由於演算法是在包含個人聲音的素材上進行訓練的。
相反，同一項研究發現，人工智慧模型在低品質影片（模糊、顆粒感強、暗淡等）上的表現優於人類，而這些影片可能被故意用來欺騙人類觀眾。同樣，現代人工智慧檢測方法，例如監測臉部特定區域的血流，也涉及人類無法進行的分析。
隨著更多方法的發展，人工智慧不僅能辨識我們無法辨識的跡象，其欺騙能力也會不斷提升。最大的問題是深度偽造檢測技術能否超越深度偽造技術本身。查看 如何應對虛擬綁架的風險並在網路上保護自己？識別威脅。.
常見問題
Q1. 什麼是deepfake技術？
Deepfake 是一種利用人工智慧以高精度創建看起來像是人類製作的視覺或音訊內容的技術。
Q2. 深度偽造有什麼用途？
Deepfake 技術的應用範圍十分廣泛，包括電影、遊戲、安全、詐欺等。
Q3. 如何偵測深度偽造？
在人工智慧的幫助下，Deepfake 檢測技術正在不斷進步，但仍需要人類的工具和方法。
Q4. Deepfake 偵測面臨哪些挑戰？
其中的挑戰包括虛假技術的不斷發展以及區分真實內容和深度偽造的困難。
Q5. 人工智慧在偵測深度偽造方面會勝過人類嗎？
人工智慧正在取得重大進展，但人類的能力仍然很重要。
在 Deepfake 時代以不同的眼光看待事物
基於人工智慧的深度偽造檢測工具將持續改進，深度偽造內容本身的品質也將持續提升。如果人工智慧的欺騙能力超過其偵測能力（就像人工智慧生成的文字一樣），那麼人類的判斷或許是我們對抗深度偽造內容的唯一工具。
識別深度偽造的跡像以及如何識別它們是每個人的責任。除了保護我們免受詐騙和安全威脅之外，如果我們忽視現實，我們在網路上討論和分享的所有內容都容易受到虛假資訊的攻擊。你現在可以查看 使用人工智慧編寫內容的風險以及如何檢測人工智慧生成的文本.
