AI內容檢測工具不起作用，這是一個大問題。

無論我們是否喜歡，人工智慧 (AI) 都將改變我們社會各個領域的思維和互動方式，其中包括萬維網。

隨著 ChatGPT 等模型可供任何有網路連線的人使用，區分 AI 生成的內容和原創的、獨特的人類生成內容變得越來越困難。我們有 AI 內容檢測工具是好事，對吧？查看 使用人工智慧編寫內容的風險以及如何檢測人工智慧生成的文本.

內容檢測工具能辨識AI文本嗎？

AI內容偵測器是專門用來判斷文字是由電腦還是人類編寫的工具。如果你在谷歌上搜尋“AI內容檢測器”，你會看到數十種可用的檢測工具，它們都聲稱能夠可靠地區分人類文本和非人類文本。

它的運作原理相當簡單：你貼上一段文字，該工具就會告訴你這段文字是否由人工智慧產生。更專業的術語是，人工智慧內容檢測工具結合自然語言處理技術和機器學習演算法，尋找模式和預測能力，並在此基礎上建立連結。

理論上聽起來很棒，但如果你曾經使用過 AI 內容檢測工具，你就會知道它們的效果時好時壞，說得委婉一點。它們經常會把人類寫的內容偵測成 AI 生成的，或是把 AI 生成的文字偵測成人類生成的。事實上，有些工具的表現糟糕得令人尷尬。

AI內容檢測工具的準確度如何？

如果你在美國，Google搜尋「AI內容偵測器」的第一個結果是該網站 作家網 （前身為 Qordoba；一個擁有自己偵測器的 AI 內容平台。）但是，當你從 美聯社 在這個工具中，他們聲稱它很有可能是由人工智慧創建的。

所以，我犯了一個錯誤。

平心而論，其他 AI 內容偵測工具也好不到哪裡去。它們不僅會產生誤報，還會將 AI 產生的內容誤認為是人類生成的。即使它們沒有誤報，對 AI 生成的文本進行微小調整也足以使其完全通過。

2023年XNUMX月，伍倫貢大學講師Armen Alimardani和新南威爾斯大學雪梨分校副教授Emma A. Jin測試了幾種流行的AI內容檢測工具，發現沒有一種可靠。他們的分析發表於 談話 文字產生器和偵測工具之間的AI「軍備競賽」將在未來帶來重大挑戰，尤其是對教育工作者而言。

各種各樣的事情

但不僅僅是教師有理由擔心：每個人都應該如此。隨著人工智慧生成的文字變得無所不在，區分「真實」與非真實——也就是識別出人工智慧所寫內容——的能力將變得越來越困難。這將對幾乎所有行業和社會領域，甚至人際關係產生深遠的影響。查看 以負責任的方式使用人工智慧作為內容作者或編輯.

人工智慧對網路安全和隱私的影響

事實上，沒有可靠的機制來確定某些東西是由聊天機器人還是人類創建的，這對網路安全和隱私有著嚴重的影響。

攻擊者已經在使用 ChatGPT 編寫惡意軟體、建立釣魚郵件、撰寫垃圾郵件、建立詐騙網站等等。雖然有一些方法可以防禦，但令人擔憂的是，沒有應用程式能夠可靠地區分自然內容和機器人內容。

假新聞也是一個大問題。有了生成式人工智慧，假資訊代理人可以以前所未有的方式擴大其運作。同時，一般人根本無法知道他們在網路上讀到的內容是由聊天機器人還是人類創作的。查看 人工智慧如何幫助網路犯罪分子.

隱私則完全是另一回事。以 ChatGPT 為例。它在上線前就收集了超過 300 億字的資料。這些內容來自書籍、部落格文章、論壇、文章和社群媒體網站。收集這些數據未經任何人同意，而且似乎完全無視隱私和版權保護。

然後還有誤報的問題。如果內容被錯誤地標記為人工智慧生成，這難道不會導致審查嗎？這本身就是一個大問題。更不用說被指控使用人工智慧生成的文本可能會損害編輯者的聲譽，無論是在網路上還是在現實生活中。

如果生成式人工智慧和內容偵測器之間真的存在一場“軍備競賽”，那麼前者必將勝出。更糟的是，目前似乎沒有解決方案。我們擁有的只是一些半成品，要么性能遠不如人意，要么極易被愚弄。查看 內容作者如何超越人工智慧寫作工具.

如何偵測人工智慧內容：潛在的解決方案

我們目前還沒有針對這個問題的具體解決方案，但這並不意味著我們將來找不到。事實上，目前已經有幾個切實可行的方案。水印就是其中之一。

在人工智慧和深度語言模型中，水印是指將某種秘密程式碼嵌入人工智慧產生的文字（例如單字模式或標點符號模式）。這種水印肉眼無法識別，因此無法去除，但專門的應用程式可以檢測到它。

事實上，在 2022 年，他開發了 馬裡蘭大學的研究人員 一種為人工神經網路添加浮水印的新方法。首席研究員湯姆·戈德斯坦當時表示，他的團隊能夠「從數學上證明」水印無法完全去除。

目前，普通人能做的就是依靠自己的直覺和常識。如果你閱讀的內容看起來不自然、重複、缺乏創意或平庸，那麼它很可能是由機器人創建的。當然，你也應該對在網路上看到的任何資訊進行事實核查，仔細檢查來源，並遠離可疑網站。檢查 誰擁有人工智慧創作的版權？這些藝術作品的版權是如何運作的？

AI革命正在進行中。

有人認為第五次工業革命已經到來，人工智慧將成為數位與實體融合的核心。無論事實如何，我們能做的只有適應。

好消息是，網路安全產業正在適應這個新現實，實施以人工智慧和機器學習為先導的全新防禦戰略。現在您可以查看 有些網路安全迷思讓你更容易受到攻擊.

轉到頂部按鈕