AI恐操控人類 殺手機器人10年成真

AI教父辛頓表示，AI未來將試圖用語言操縱人類。他並預測10年內將出現「殺手機器人」。圖爲2023年第七屆世界智能大會上的一款仿生機器人。（新華社）

加拿大多倫多大學榮譽教授辛頓（Geoffrey Hinton）有「AI教父」之稱，他在接受日媒專訪時，談及人工智慧（AI）的威脅。他稱，AI會幫助我們解決問題，但也有可能找出不利人類的對策，並試圖「用語言操縱我們」。他還預測，未來10年內將出現「殺手機器人」。

辛頓是「深度學習」（Deep Learning）和神經網路（模仿人腦的數學模型）的先驅，其研究幫助奠定了AI發展的基礎。2023年，辛頓突然從已工作10多年的美國谷歌（Google）辭職，並開始談論AI的風險，憂心AI落入壞人之手。

《日本經濟新聞》22日刊出對辛頓的專訪內容。辛頓表示，如果給AI設定目標，作爲解決對策，它可能會找出對人類不利的方法。比方說，假設向AI下達遏制氣候變化的指令，AI會意識到爲了達到目的，而有必要將人類清除。他擔心真的會付諸實施的風險。

辛頓指出，今後還可能出現不同的AI相互競爭的局面。例如，如果AI之間發生數據中心等資源的爭奪，這將是一個像生物體一樣推動進化的過程。面對透過競爭變得更聰明的AI，我們人類將落在後面。

他又說，很多人主張，要防止AI失控，只要關掉電源開關就可以。但超越人類智慧的AI可以用語言操縱我們，或許會試圖說服我們不要關掉開關。

辛頓還預測，未來10年內將出現自主殺死人類的機器人武器（殺手機器人）。他說，機器人武器或許遲早也會被限制，但是，這可能要等到真正在戰場上被使用、人類認識到會帶來多麼悲慘的結局後才能實現。

21日，聯合國大會通過首個關於AI的全球決議，旨在管理AI的風險，同時利用其優勢。決議呼籲推動開發「安全、可靠和值得信賴的」AI系統，以促進可持續發展。美國爲這項決議的發起國，並獲得中國等120多個聯合國會員國的共提或支持。

決議指出，AI系統治理是一個不斷髮展變化的領域，國際社會需要隨着技術發展，持續討論可能採取的適當治理辦法，這些辦法必須以國際法爲基礎，使所有人受益。雖然聯大決議不具有法律約束力，但它反映了國際社會的政治共識。