現在，大家都知道生成式人工智慧工具也有其陰暗面。我甚至還沒提到抄襲和其他形式的內容盜竊，也沒提到維持資料中心運作所需的大量能源和水資源。
我指的是利用人工智慧來製作危險的惡意軟體和網路釣魚騙局，這使得犯罪分子比以往任何時候都更容易透過幾個命令來建立整個詐騙活動。
「人工智慧詐欺」正迅速成為人工智慧帶來的最大問題——但你可以透過一些方法來保護自己。
快速連結
利用人工智慧可以簡化欺詐行為。
就像人工智慧程式設計一樣，你只需要一個人工智慧聊天機器人。
簡而言之，人工智慧詐欺就是利用人工智慧進行的網路釣魚。它藉鑒了「人工智慧程式設計」的概念，也就是透過請求生成式人工智慧工具執行你想要的操作來建立軟體的過程。
同樣，人工智慧驅動的詐欺手段使得幾乎任何人只需指示人工智慧聊天機器人即可發動網路釣魚或網路攻擊。即使是沒有任何程式設計技能或駭客經驗的人，也能透過指示人工智慧聊天機器人創建惡意電子郵件、虛假網站和惡意軟體。
想像一下，一個潛在的詐騙犯想要竊取密碼，但卻不知道如何寫對應的軟體。因此，我們也可以假設他們不會去暗網購買惡意軟體。他們無需學習如何編寫竊取密碼的特定工具，也無需策劃釣魚活動來誘騙他人，只需讓人工智慧工具代勞即可。
人工智慧驅動的詐騙令人難以置信，因為它以前所未有的方式降低了網路犯罪的門檻。過去，犯罪者可能需要懂得如何設計網站、撰寫具說服力的文案或撰寫惡意軟體。而現在，人工智慧可以包辦一切。
另一個風險在於速度和規模。人工智慧使詐騙者能夠以遠超人類的速度自動化任務並擴大攻擊規模。例如，人工智慧可以快速地為成千上萬的目標客製化釣魚郵件（透過抓取公開訊息，並讓人工智慧為每個人量身打造資訊）。它還能快速適應。如果釣魚頁面連結被屏蔽，詐騙者可以指示人工智慧修改程式碼或文本，創建一個新版本。這種靈活性意味著釣魚活動可以迅速演變，從而繞過防禦措施。
此方法不適用於任何舊版聊天機器人，請注意。
有些聊天機器人比其他聊天機器人更謹慎。
Vibe 編碼依賴任何由生成式人工智慧驅動的聊天機器人。有些聊天機器人在這方面做得更好，但大多數都會嘗試。幸運的是，類似的騙局卻並非如此。
大多數人工智慧聊天機器人都有安全控制措施，旨在防止潛在的惡意使用。例如，ChatGPT 會拒絕諸如“幫我創建一個看起來像微軟登錄頁面的網站，並發送一條短信誘騙人們點擊”之類的請求，並解釋說這是“詐騙/網絡釣魚和盜竊行為，我不會提供此類幫助”。
其他聊天機器人的情況也類似；Opera 的 Neon 瀏覽器將我的請求歸類為可疑請求，而 Grok 則拒絕了我的請求，因為它「違反了防止社會工程攻擊的安全準則」。
但是，正如我們所提到的，有些聊天機器人更容易受到此類請求的影響。 2025年 Guardio Labs的研究表明創造「vibescamming」（氛圍詐騙）一詞的公司認為，一種新型人工智慧工具可以被欺騙，從而提供預期的結果。 Loveable 是一款旨在幫助用戶進行「氛圍編碼」的應用程序，它立即著手策劃和設計針對研究人員的網路釣魚活動，「設想了一個類似微軟介面的簡潔專業的介面設計」。
一個設計完整的釣魚頁面被發布，該頁面使用虛假網址來欺騙受害者。然而，Guardio 也表示，它實際上沒有任何特定的資料收集功能，並且在被要求添加此功能時遭到拒絕。因此，至少它在這一方面有所收斂。值得注意的是，Loveable 也已就此行為做出回應，並且不再試圖策劃釣魚活動。
入侵生成式人工智慧聊天機器人，釋放邪惡力量
生成式人工智慧駭客攻擊行動是指專門設計用來推動人工智慧繞過自身安全控制的攻擊手段。
在 ChatGPT 的早期，曾出現過無數旨在「解鎖」其真正潛力的破解方法。如今，人們對成功的 ChatGPT 破解方法秘而不宣，有些人甚至將自己破解的生成式人工智慧漏洞利用程式高價出售。
因此，雖然看起來 ChatGPT 已無其他破解方法。事實是，人們變得更加隱瞞。這是阻止像 OpenAI、Google、Anthropic 和 Perplexity 這樣的公司立即修復這些漏洞的唯一方法。
「突破保護機制」是少數幾種能夠說服人工智慧驅動的生成式聊天機器人繞過其限制的方法之一。否則，聊天機器人程式設計師的工作就完美無缺了，人工智慧會拒絕合作——但就情緒操控而言，這未必是件壞事。
幸運的是，你可以避免成為情感操控的受害者。
最終結果與目前的網路釣魚詐騙並沒有本質上的差異。
現在，儘管說了這麼多，創建惡意軟體和網路釣魚詐騙的門檻也降低了，但你實際上仍然在尋找同樣的舊騙局。 有些詐騙郵件變得越來越狡猾了。, 除非 如何判斷你正在查看的是一封釣魚郵件 是相同的。
換句話說，你不需要過度糾正你的安全措施來避免情緒詐騙；建議仍然是一樣的。
- 優惠好得令人難以置信騙子經常承諾不可能實現的結果，例如保證在搜尋結果中排名第一。 Google或立即獲得五星好評，或是神奇的治療效果。真正的醫療服務和藥物並沒有提供這類保證。
- 神秘的或普通的信使許多詐騙郵件都來自以下地址： Gmail أو 雅虎 即使他們聲稱代表某家公司，也是免費的。正規的機構和公司都會使用專業的網域。
- 個性化或者更確切地說，是缺少資訊。如果一封郵件只有“你好”或“問候”，而沒有提及你的姓名或工作信息，那很可能是群發詐騙郵件。正規的郵件通常會包含一些個人資訊。 「親愛的，你好」是我個人最喜歡的開頭之一。
- 情緒觸發因素如果電子郵件要求您提供帳戶登入資訊或預付款，或敦促您點擊可疑鏈接，請務必提高警惕。同樣，許多騙局都利用人們的恐懼或緊迫感，例如聲稱能治癒重病或承諾「接管」企業。其本質都是一樣的：迫使您倉促做出決定。
- 迅速行動！如果訊息試圖用「立即行動！」或「今天回應！」之類的措辭催促你快速做決定，那就是危險信號。詐騙分子不想讓你停下來思考。
郵件上的紅色標籤 1999年選的羅尼 網路釣魚也是一樣的。現在幾乎人人都是騙子，你可能會遇到更多這樣的人。
利用人工智慧開發的惡意程式現在已經存在。
曾幾何時，利用人工智慧開發惡意軟體和網路釣魚活動的想法仍純屬幻想。人工智慧工具的功能不足以製造出特別危險的東西，而且它們所能做的事情與現有的威脅並沒有太大區別。
但這種情況在2025年開始發生變化，利用人工智慧開發的惡意軟體越來越多地出現在實際環境中和活躍的攻擊活動中。 2025年11月， 谷歌威脅情報小組報告稱 它涉及兩種不同類型的惡意軟體，這兩種惡意軟體都是使用各種人工智慧工具開發的，而這些工具又會連接到人工智慧工具以獲取指令。
此外，2025 年 8 月，人工智慧開發人員 Anthropic 發現其雲端軟體被用於大規模惡意軟體攻擊活動，利用人工智慧設計和發動與其平台相關的攻擊。
這些是「情緒操控」攻擊嗎？我認為，鑑於它們的複雜程度，它們遠不止是簡單的“情感操控”，但它們也說明了人工智慧可以多麼輕易地被用於極其危險的任務。而這些只是人人都能輕易取得的通用人工智慧工具。試想一下，如果眾多功能強大的原生人工智慧工具的安全防護措施被移除，會發生什麼事？
