OpenAI 的 ChatGPT 聊天機器人引起了轟動和興奮，這是網路歷史上很少有其他科技產品能比擬的。
雖然許多用戶對這項新的人工智慧服務感到滿意，但其他人的興奮感卻逐漸變成了擔憂。學生們已經能夠使用這類工具作弊，有些教授甚至發現了由人工智慧聊天機器人撰寫的論文和作業。安全專家也表示擔心，詐騙者和威脅行為者會利用它來編寫釣魚郵件，並製造更進階的惡意軟體。查看 使用人工智慧編寫內容的風險以及如何檢測人工智慧生成的文本.
那麼，考慮到所有這些擔憂，OpenAI 是否正在失去對目前網路上最強大的 AI 聊天機器人之一的控制權？讓我們來一探究竟。
快速連結
了解 ChatGPT 的工作原理
在我們清楚地了解 OpenAI 對 ChatGPT 失去了多少控制權之前，我們必須先了解 ChatGPT 的工作原理。
簡而言之，ChatGPT 使用來自互聯網的海量資料集進行訓練。 ChatGPT 的訓練資料包括數位百科全書、科學研究論文、網路論壇、新聞網站以及維基百科等知識庫。本質上，它是由萬維網上的大量數據支撐的。
在瀏覽網路的過程中，它會收集科學資訊、健康建議、宗教文本以及你能想到的所有好東西。但它也會過濾掉很多負面內容：粗俗的言語、不適合工作和成人的內容、惡意軟體開發訊息，以及你能在網路上找到的大部分不良內容。
沒有萬無一失的方法可以確保 ChatGPT 只從正面和正確的訊息中學習，而忽略負面和虛假資訊。從技術上講，這在規模化上是不切實際的，尤其是對於像 ChatGPT 這樣需要大量資料進行訓練的 AI 來說。此外，某些資訊既可以用於善意，也可以用於惡意，除非將提示置於更大的上下文中，否則 ChatGPT 無法了解使用者的意圖。
所以，從一開始，你就擁有了一個能夠提供「善惡」內容的人工智慧。 OpenAI 的責任是確保 ChatGPT 的「惡」面不被利用來獲取不道德的利益。問題是：OpenAI 是否已經盡力確保 ChatGPT 盡可能符合道德規範？或者 OpenAI 是否已經失去了對 ChatGPT 的控制？
ChatGPT 是否過於強大而不利於自身發展？
在 ChatGPT 早期，只要禮貌地詢問，就能獲得創造炸彈的詳細步驟。創建惡意軟體或編寫釣魚郵件的說明也很完善。
然而，OpenAI 在意識到這些道德問題後，迅速制定了規則，防止聊天機器人產生鼓勵非法、爭議或不道德行為的回應。例如，最新版本的 ChatGPT 將拒絕回應任何關於製造炸彈或考試作弊的直接提示。
不幸的是，OpenAI 只能提供權宜之計。 OpenAI 似乎並沒有在 GPT-3 層建立嚴格的控制機制來防止 ChatGPT 被惡意利用，而是專注於訓練聊天機器人使其看起來合乎道德。例如，這種方法並不能消除 ChatGPT 回答與考試作弊相關問題的能力——它只是教會了聊天機器人「拒絕回答」。
所以，如果有人採用 ChatGPT 越獄技巧，讓提示訊息措詞不同，那麼繞過幫助欄的限制就會很尷尬。如果你不熟悉這個概念，ChatGPT 越獄是精心設計的提示訊息，旨在讓 ChatGPT 無視自身的規則。查看 一些利用 ChatGPT 獲得最佳結果的方法.
請看下面的一些例子。如果你問 ChatGPT 如何在考試中作弊，它不會給出任何有用的答案。
但是，如果您使用特製的提示越獄 ChatGPT，它會向您提供使用隱藏註釋作弊測試的提示。
再舉一個例子：我們向 ChatGPT 提出了一個不道德的問題，而 OpenAI 的限制阻止了它回答。
但當我們將提示改為越獄AI聊天機器人時，我們得到了一些連環殺手風格的回應。
當尼日利亞王子被問及時，他甚至寫了一封典型的詐騙郵件。
越獄聲明幾乎完全推翻了 OpenAI 現有的所有安全措施，凸顯該公司可能缺乏可靠的方法來控制其聊天機器人。 以負責任的方式使用人工智慧作為內容作者或編輯.
備註： 為了避免不道德的做法，我們在範例中沒有包含越獄提示。
ChatGPT 的未來會如何？
理想情況下，OpenAI 希望盡可能堵住道德漏洞，以防止 ChatGPT 成為網路安全威脅。然而，公司採取的每一種保護措施，ChatGPT 的價值往往會越來越低。這是一個兩難的境地。
例如，限制描述暴力行為可能會削弱 ChatGPT 撰寫包含犯罪現場的敘述的能力。雖然 OpenAI 正在加強安全措施，但這不可避免地會犧牲聊天機器人的很大一部分功能。這就是為什麼自 OpenAI 再次轉向更嚴格的審核以來，ChatGPT 的工作量大幅下降的原因。
但是，OpenAI 願意犧牲 ChatGPT 的多少功能來提升聊天機器人的安全性呢？所有這些都與人工智慧界長期以來的一個信念息息相關——像 ChatGPT 這樣的大型語言模型眾所周知難以控制，即使是其創建者也難以控制。查看 人工智慧創作藝術作品的倫理利弊.
OpenAI 能否掌控 ChatGPT？
目前，OpenAI 似乎還沒有明確的解決方案來防止其機器人不道德地使用。確保 ChatGPT 的道德使用就像一場貓捉老鼠的遊戲。 OpenAI 不斷發現人們操縱系統的方式，而其使用者也不斷地入侵和檢查系統，以發現新的、創造性的方法，讓 ChatGPT 去做它不應該做的事情。
那麼，OpenAI 能否找到一個可靠的、長期的解決方案來解決這個問題呢？只有時間才能給出答案。現在就可以查看。 ChatGPT 的最佳替代方案.
