我信任 Gemini 會進行網路搜索，但它卻直接將我引向了騙局。

人工智慧 (AI) 在網路的各個領域日益普及，從回答搜尋查詢、提供下載建議，到識別值得關注的電子郵件。然而，僅僅因為人工智慧看起來有用，並不一定意味著它總是正確的，或完全理解自己在做什麼。有時，過度依賴這些技術可能會導致意想不到的後果，包括成為網路詐騙的受害者。這段親身經歷凸顯了使用 Gemini 等人工智慧工具進行網路搜尋的潛在風險，並強調了批判性思維和在完全信任資訊之前進行驗證的重要性。

三星 Galaxy S24 Ultra 打開了 Gemini 應用程序，旁邊放著 AirPods 4

快速連結

警告：Gemini 會引導您造訪惡名昭彰的惡意軟體下載網站

為了測試AI的功能，我請Gemini推薦一些錄影應用，並提供直接下載連結。起初，它提供的清單看起來很有希望，但我很快就發現其中一個連結指向的是Softonic網站。

Softonic 以將熱門應用程式重新打包到其安裝程式中而聞名，這些安裝程式通常會載入廣告軟體、瀏覽器劫持程式或其他垃圾軟體。這些做法使 Softonic 成為一個廣受不信任的網站。

儘管名聲不佳，Softonic 仍使用激進的搜尋引擎優化 (SEO) 技術，使其出現在 Google 搜尋結果的頂部。現在，它似乎也開始滲透到 AI 生成的答案中。

Gemini 標籤推薦 OBS Studio，旁邊開啟一個 Softonic 連結。

幸運的是，我能夠快速偵測到該威脅，因為我熟悉 Softonic 的可疑做法。然而，經驗不足的用戶可能會相信 Gemini 提供的安全鏈接，並在不知情的情況下在自己的電腦上安裝不需要的軟體。

這是最令人擔憂的方面。人工智慧工具看起來自信且官方，當你匆忙或不熟悉科技時，很容易被誤導。用戶在從未知來源下載軟體時應格外小心，並在點擊前務必驗證連結的完整性。使用防毒軟體並定期更新至關重要，以防範潛在的惡意軟體。

谷歌的人工智慧概覽並沒有改善這種情況。

如果您最近使用過 Google 搜索，您可能已經看到頁面頂部那些試圖立即回答您問題的長段文字。這些文字被稱為「AI 概覽」。它們由大型語言模型 (LLM) 自動生成，從網路中提取訊息，為您提供摘要——類似於 Gemini 的功能，但直接整合到 Google 搜尋中。

雖然這看起來很方便，但相信這些結果並不總是一個好主意。有些案例中，人工智慧產生的概覽會將使用者重新導向到可疑或完全虛假的網站。其中一些網站看似在線商店或服務，但其目的只是為了騙取你的錢財或誘騙你安裝惡意軟體。

最大的問題是，這種情況並非發生在某個隨機工具上，而是發生在Google內部，而大多數人仍然完全信任谷歌。與大型語言模型 (LLM) 不同，用戶對大型語言模型仍然較為謹慎，許多人甚至沒有意識到這些熱門搜尋結果是由人工智慧產生的，因此他們會毫不猶豫地點擊它們。

幸運的是，如果您願意的話，還是有一些解決方法的。禁用 AI 概覽雖然這不是最明顯的，但如果您願意堅持使用實際的連結和來源，而不是依賴可能出現嚴重錯誤的東西，那麼這可能是值得做的。

雙子座並不是唯一一個：其他人工智慧助理也會犯錯。

不幸的是，谷歌並不是唯一一家遭遇這些問題的公司。除了我們之前提到的就功能而言，Apple Intelligence 有多謙虛？看來它的某些功能實際上可能是危險的。

郵件應用程式中的「優先訊息」功能就是一個例子。該功能旨在將最重要的提醒顯示在收件匣頂部，這樣你就不會錯過任何重要資訊。

然而，在某些情況下，此功能會標記來自虛假銀行的釣魚郵件，而不會進行任何檢查，以確認寄件者是否可疑或郵件是否包含任何警告信號。對於一項旨在簡化您的生活的功能來說，這是一個重大疏忽。這迫使我完全停用 Apple Intelligence 在我父母的 iPhone 上。

最令人擔憂的是人們對這類功能的盲目信任。如果你的手機顯示某件事很重要，你更有可能相信它。當這些人工智慧工具無法偵測到基本資訊時，這種信任就很容易被利用——例如一封明顯來自銀行的虛假郵件。這些錯誤看似微不足道，但如果處理不當，可能會造成嚴重的現實後果。即使在使用最新的人工智慧技術時，也必須保持警惕，並核實重要的資訊來源，尤其是與金融交易相關的資訊來源。