超級人工智能會毀滅人類嗎？ 科學家認爲可能性僅爲5%

參考消息網1月6日報道 據英國《新科學家》週刊網站1月4日報道，科學家稱，人工智能有5%的可能性導致人類滅絕。

許多人工智能（AI）研究者認爲，超人類人工智能的發展有可能導致人類滅絕，但對此類風險也存在廣泛的分歧和不確定性。

這些發現來自對2700名人工智能研究者的調查結果，他們最近在6場頂級人工智能會議上發表了研究成果——這是迄今規模最大的此類調查。這項調查讓參與者分享他們對未來人工智能技術里程碑的可能時間線，以及這些成就的社會影響是好是壞等的看法。將近58%的研究者說，他們認爲發生人類滅絕或其他與人工智能相關的極端糟糕後果的可能性爲5%。

論文作者、美國加州機器情報研究所的卡特婭·格拉斯說：“這是一個重要的信號，表明大多數人工智能研究者並不認爲先進人工智能毀滅人類是非常難以置信的。我認爲，這種認爲存在非微小風險的普遍看法比確切的風險百分比更能說明問題。”

但俄亥俄州凱斯西儲大學的埃米爾·託雷斯說，目前還沒有必要恐慌。他們說，許多人工智能專家在預測未來人工智能發展方面“沒有良好的記錄”。格拉斯及其同事承認，人工智能研究者不是預測人工智能未來發展軌跡的專家，但他們表示，他們2016年的調查在預測人工智能里程碑方面做得“相當好”。

與2022年進行的同一項調查得出的答案相比，許多人工智能研究者預測，人工智能將比此前預測的更早達到某些里程碑。這與2022年11月聊天生成預訓練轉換器（ChatGPT）問世和硅谷急於廣泛部署基於大型語言模型的類似AI聊天機器人的服務吻合。

參與調查的研究人員預測，未來10年人工智能系統有50%或更高的概率成功完成39項樣本任務中的大部分，包括譜寫與泰勒·斯威夫特的熱歌難以區分的新歌，或從頭開始編寫整個支付處理站點的代碼。

其他任務，比如給新家實際安裝電線或解決長期存在的數學難題預計需要更長的時間。

到2047年，人工智能在每項任務上的表現都超過人類的可能性爲50%，而到2116年，所有人類工作實現完全自動化的可能性爲50%。這些估計比去年調查結果中給出的時間分別提前了13年和48年。

但託雷斯說，對人工智能發展的高期望也可能落空。他說：“這些突破有很多是很難預測的。而人工智能領域完全有可能經歷另一個寒冬。”他們指的是上世紀七八十年代人工智能領域資金和企業興趣的枯竭。

在沒有任何超人類人工智能風險的情況下，還存在一些更緊迫擔憂。絕大多數人工智能研究者認爲，涉及深度造假、操縱輿論、基因工程武器、對人口實施獨裁控制和經濟不平等日益惡化等的人工智能驅動場景令人嚴重或極度擔憂。託雷斯還強調了人工智能在氣候變化或民主治理惡化等生存問題上助長虛假信息的危險。