什麼是AI家庭語音克隆騙局？如何識別？

有一天深夜，你的父母收到你驚慌失措的語音留言，說你遇到麻煩了，需要幫助。你的錢包被偷了，你被困在一個陌生的地方。需要立即轉帳給你，這樣你才能回家。

訊息裡的聲音聽起來非常真實，毫無疑問是他孩子的聲音，但事實並非如此。這是一個人工智慧聲音克隆，它已經成為一個騙局的目標，這個騙局既複雜又極其有效。

這類詐騙利用人工智慧技術產生與家人或朋友非常相似的聲音。如果這些虛假聲音未被發現，可能會造成混亂和錯誤訊息，並可能造成嚴重後果。因此，檢測家庭聲音克隆詐騙對於維護誠信和安全至關重要。查看評估音訊克隆技術在創建大規模內容的應用.

快速連結

AI語音克隆騙局是如何運作的？

語音克隆技術可以創造出極其逼真的人類聲音數位副本。這項技術通常被稱為 Deepfake音訊使用 ElevenLabs 等 AI 語音克隆工具（請參閱下面的 AI 語音克隆範例），結合生成式 AI 和語音合成，克隆的語音可以複製情緒、細微差別、語調甚至恐懼。

作為參考，以下是 Christian Cowley 在 Really Helpful Podcast 上演講時的真實聲音。

要創建 AI 轉錄，只需要一小段音訊樣本——通常只需一分鐘或更短。音頻樣本通常取自公開的社交媒體帖子，這使得視頻博主、創作者和名人尤其容易受到攻擊，因為他們帖子中的音頻質量很高，而且很容易獲取。

一旦詐騙者複製了語音樣本，他們就會使用文字轉語音甚至即時語音轉語音來創建虛假電話和語音訊息。

在訪問受害者的社交媒體帳戶並收集其個人資訊後，騙子會製造一個令人信服的場景。這些場景可能涉及住院、逮捕、搶劫、綁架或其他任何製造恐懼和混亂的情況。然後，他們利用克隆的聲音來操縱受害者的家人，使其相信親人正經歷嚴重的問題。

聲音和情感的真實性，加上請求的震驚和緊迫性，可能會壓倒懷疑，導致草率決定轉移資金或提供敏感資訊。

就像大多數針對家人和朋友的騙局一樣，人工智慧語音克隆之所以有效，是因為它利用了人際關係。接到家人求救電話時，恐慌會迅速影響判斷，導致草率決策。這與以物易物詐騙中使用的伎倆相同，但當你聽到親人的聲音時，效果會被放大。

社群媒體活躍人士或旅行者的家人尤其容易受到攻擊，因為他們的處境為騙子的虛構故事提供了可信的背景。騙子通常會提前從目標用戶的公開社交媒體帳戶中收集並使用他們的私人數據，使故事更具說服力。查看如何應對虛擬綁架的風險並在網路上保護自己？識別威脅。.

儘管人工智慧語音克隆非常複雜，但它可以透過特定的警訊顯現出來：

在面臨嚴峻形勢時，這些因素很難考慮，但它們可能會防止您被騙。

如果您接到親人打來的電話或語音留言，請保持冷靜。詐騙者試圖讓您驚慌失措、情緒激動，因為這會增加您受騙的可能性。

如果您懷疑某通電話可能是語音複製詐騙，即使只有一秒鐘，也請立即掛斷。不要與詐騙者分享任何資訊或進行任何接觸。相反，請用一個已知的號碼給您的親人回電，確認求救電話的真實性。

與詐騙者進一步交談可能會有您的聲音被錄音和複製的風險。

如果詐騙者留下語音留言，請立即將音訊儲存到手機或筆記型電腦。此音訊樣本可用於 AI 語音分類器，以判斷是否為人聲。 AI 語音分類器的工作原理與語音辨識設備類似。 AI手寫偵測只需輸入音訊文件，分類器就會將其標記為人工生成或人工智慧生成。

ElevenLabs 語音分類器是一個很好的工具。 ElevenLabs 支援大多數 AI 語音克隆平台，使其成為判斷語音是否被複製的理想工具。以下是如何使用它來識別 AI 克隆語音：

在下面的例子中，有人錄製了一條求救訊息並上傳到分類器。您可以看到，它被標記為有 2% 的機率被篡改。

在以下範例中，我們使用 AI 語音克隆工具產生了相同的求救資訊。對人耳來說，這些聲音難以區分。然而，該工具卻將其歸類為 AI 生成的機率高達 98%。

雖然你不能完全依賴這本練習冊，但它可以證實你對語音克隆的懷疑。你也應該給你的親人打一個已知號碼來確認。檢查在偵測深度偽造技術方面，人類的能力和人工智慧哪個更勝一籌？.

有時，抵禦高科技詐騙的最佳方法是採用低技術解決方案。

建立一個只有你的親朋好友知道的離線密碼。萬一緊急情況下需要撥打電話，使用此密碼可確保確認來電者的身分。

最後，將您的私人資訊從社群媒體上移除，是確保詐騙者無法收集足夠資訊來編造故事的重要一步。記住：如果您不想讓所有人都知道，最好不要在社群媒體上分享。現在您可以查看您的社群媒體帳號資料在暗網上的價值是多少？

標籤