一群著名的研究人員、人工智慧領域的專家和科技公司再次警告說，當前人工智慧的快速發展可能會為人類帶來災難。
風險包括核衝突、疾病、錯誤訊息以及不受約束、不受約束的人工智慧，所有這些都對人類的生存構成直接威脅。查看 增加回形針的問題是什麼？它與人工智慧有何關係？
但重要的是要記住，許多警告都來自領導人工智慧開發並將人工智慧工具和軟體推向公司的人。
快速連結
為什麼科技公司和專家要警告人工智慧的風險？
30年2023月350日，超過XNUMX名人工智慧研究人員、開發人員和工程師發表統一聲明，警告人工智慧對人類的威脅。
減輕人工智慧對人類滅絕的威脅必須成為全球優先事項，同時還要應對流行病和核戰等其他社會風險。
在簽署聲明的人中 Safe.ai OpenAI 執行長 Sam Altman、Google DeepMind 執行長 Demis Hassabis、Anthropic 執行長 Dario Amodei，以及圖靈獎得主 Geoffrey Hinton 和 Yoshua Bengio（儘管同樣獲得該獎項的 Yann LeCun 並未署名）。這份名單幾乎囊括了人工智慧開發領域的名人錄——引領人工智慧應用的領導者——但他們齊聚一堂，共同警告人工智慧可能為人類帶來災難。
這是一份簡短的聲明，概述了各種威脅，並特別指出了可能威脅我們所知世界的兩個主要領域：核戰和全球健康問題。雖然核衝突的威脅令人擔憂，但疫情大流行的威脅對大多數人來說才是更切實的威脅。
然而，不僅是全球流行病可能導致與人工智慧相關的健康問題。 《衛報》 如果在廣泛使用之前不進行調查，還有許多其他與人工智慧相關的健康問題可能會影響人類。一個例子是使用人工智慧脈搏血氧儀，「它高估了深色皮膚患者的血氧水平，導致缺氧治療效果不佳」。
此外，這並非科技界領袖首次呼籲暫停或認真重新評估人工智慧發展。 2023年XNUMX月，馬斯克和其他人工智慧研究人員簽署了類似的行動呼籲，敦促用戶暫停人工智慧開發，直到更多法規出台，以指導這項進程。查看 ChatGPT 能從使用者對話中學習嗎？
人工智慧有哪些風險？
人工智慧相關的大多數風險，至少在這種背景下，都與一種肆虐的人工智慧技術的發展有關，這種技術超越了人類的能力，最終會壓倒其創造者，並毀滅我們已知的生命。這樣的故事在科幻小說中被無數次地描述過，但現實比我們想像的更近。
這簡直荒謬至極，抱歉。沒人逼著Google和OpenAI開發那種把人類置於「滅絕風險」的人工智慧。如果他們真的認為這是一個如此可怕的威脅，他們今天就可以停止開發了。但他們不這麼認為，所以他們不會這麼做。 https://t.co/XRhFaMWrUj
— Brian Merchant（@bcmerchant） 2023 年 5 月 30 日
大型語言模型（為 ChatGPT 等工具提供支援）的功能正在呈指數級增長。然而，像 ChatGPT 這樣的工具也存在諸多問題，包括固有偏見、隱私問題和 AI 幻覺，更不用說可能存在超出程式設計條款和條件範圍的漏洞。
隨著語言模式變得越來越大，需要連接的數據點也越來越多，再加上網路存取和對時事的了解越來越多，人工智慧研究人員擔心，有一天，用 OpenAI 執行長的話來說，「事情會出錯」。
政府如何監管人工智慧發展以降低風險？
人工智慧監管是降低風險的關鍵。 2023年XNUMX月初，薩姆·奧特曼呼籲加強對人工智慧的監管，並指出「政府的監管幹預對於降低日益強大的模型帶來的風險至關重要」。
歐盟隨後公佈了《人工智慧法案》，該法案旨在為整個歐盟的人工智慧發展提供更強有力的框架（其他司法管轄區已經制定了許多相關法規）。阿爾特曼最初威脅要將 OpenAI 拉出歐盟，但後來做出了讓步，同意讓該公司遵守他先前要求的人工智慧法規。
無論如何，監管人工智慧的開發和使用顯然至關重要。查看 ChatGPT 會成為網路安全威脅嗎？以下是需要注意的事項。.
人工智慧會毀滅人類嗎？
由於關於這個主題的大部分討論都基於對未來人工智慧威力的假設，因此人們對任何人工智慧監管的壽命和效力都存在疑問。對於一個已經快速發展、每天都在經歷突破性發展的行業，最佳監管方式是什麼？
此外，人們對人工智慧的整體能力及其最終發展方向仍存疑。那些擔心最壞情況的人指出，通用人工智慧已經變得像人類一樣，而另一些人則指出，目前的人工智慧甚至無法回答基本的運算問題，而且自動駕駛汽車距離實現還很遙遠。
很難不認同所有展望未來之人的觀點。許多大聲疾呼人工智慧可能引發問題的人，其實是掌握主動權，展望著我們未來的發展方向。如果他們呼籲制定人工智慧監管法規，以保護我們免於可怕的未來，那麼現在或許是時候採取行動了。現在就可以查看。 不應盲目信任人工智慧的一些理由.
