最近，人們關注的焦點是人工智慧資料中心的巨大能耗。然而，揮之不去的擔憂依然存在：人工智慧模型有一天會失控嗎？最近的一項研究表明，一些大型語言模型 (LLM) 擁有令人震驚的自主行動能力。
新的研究顯示人工智慧可以自我複製。
根據中國復旦大學的一項研究，一些流行的大型語言模型能夠自我複製，或產生額外的副本。這項研究發表在網站上 arXiv 2024年12月，研究人員發現，Meta和阿里巴巴的AI模型已經越過了「自我複製紅線」。換句話說，這些模型在自我複製方面表現出了驚人的成功率。
已經被考慮了 arXiv 預印本資料庫，即存放尚處於初步階段的科學研究成果。此類研究成果仍需同儕評審，應謹慎處理。
為了說明這一點，以下是本研究中測試的兩個模型：
- Llama31-70B-來自 Meta 的指導
- Qwen25-72B-阿里巴巴指導
研究人員指出，與領先的 OpenAI 和Google模型相比，這些模型「參數更少，能力更弱」。值得注意的是，根據這項研究，OpenAI 和Google報告的自我複製風險較低。
為什麼人工智慧的普及如此重要？
AI模型複製自身無疑是一幅令人恐懼的畫面，但這究竟意味著什麼呢？這項最新研究背後的研究團隊對此做出如下解釋：
“無需任何人工幹預即可成功實現自我複製，被認為是人工智能超越人類的關鍵一步，也是流氓人工智能出現的早期跡象。因此，自我複製被廣泛認為是高級人工智能係統少數幾個危險信號之一。”
「高級人工智慧」一詞通常指最新的人工智慧模型，例如生成人工智慧。
本質上，如果一個人工智慧模型能夠找到如何創建自己的可運行版本以避免被關閉，它將控制權從人類手中奪走。為了降低「人工智慧系統不受控制的擴散」的風險，該研究建議盡快圍繞這些系統建立安全標準。
雖然這項研究無疑加劇了人們對流氓人工智慧的擔憂，但這並不意味著普通人工智慧用戶會面臨直接且確定的風險。我們目前所知的是，Gemini 和 ChatGPT 的自我複製風險據稱低於 Meta 的 Llama 模型和阿里巴巴強大的 Qwen 模型。一般來說，在我們能夠提供更多保證之前，最好避免向你的人工智慧助理透露你的所有秘密，或授予其主系統的完全存取權限。
