矽谷正夯的 AI「末日值」是什麼？ 科技業大老末日值多少？

「末日值」指的是你認爲AI可能帶領人類走向末日的機率。圖／聯合報系資料照片

「你的『末日值』是多少？」據說已成了矽谷科技圈新貴近期最常掛在嘴邊的問候語，對於身處AI產業的人來說，這更是一個無法含糊其詞糊弄過去、避而不談的議題。「末日值」到底是什麼？詢問他人「末日值」的意義何在？

所謂的「末日值」（probability of doom，也寫作「p(doom)」），指的就是你個人認爲AI可能帶領人類走向末日的機率。

若不相信AI會導致世界末日，那你的末日值就會趨近0。相反的，若你堅信AI終將導致人類社會滅亡，那你的末日值就會趨近100。

據《紐約時報》科技專欄作家魯斯（Kevin Roose）觀察，末日值這一概念及名詞，大概源自於矽谷科技產業的圈內人社羣平臺交流版「LessWrong」，最早可追溯至十餘年前的一則版上貼文。

據《紐約時報》科技專欄作家魯斯（右）。取自X@kevinroose

當時就已開始研究AI技術的幾名網友發文分享各種「AI導致人類滅亡」的情境，並分享自己所認定的「末日值」。令人意想不到的事，這則半開玩笑的貼文在ChatGPT等生成式AI崛起後，竟成了人們十分嚴肅看待、熱衷討論的議題。

而「LessWrong」創辦人、AI學者尤德考斯基（Eliezer Yudkowsky）則是出了名的「AI末日論者」（doomer），自認末日值高達95。

科技業名人末日值各有不同

在科技業、AI產業有名有姓的各路人馬的末日值，分別都是多少？

魯斯在《紐約時報》專欄中寫道，被譽爲「深度學習教父」的AI學者辛頓（Geoffrey Hinton）以及班吉歐（Yoshua Bengio）都曾呼籲業界提高警惕，加強對AI技術的管控。

辛頓認爲，若不嚴格監管，AI在未來30年內導致人類滅絕的機率爲10％，而班吉歐則在一次訪談中表示， AI災難性事件發生的機率大概爲20％。

財經新聞網《商業內幕》（Business Insider）指出，曾在ChatGPT開發商OpenAI擔任研究員、今年（2023）入選美國《時代》（Time）雜誌「百大最具影響力的AI圈內人」榜單的克里斯基亞諾（Paul Christiano），一度在播客節目中坦言：「我認爲AI完全掌控人類社會的機率大概爲10％到20％，到時候會有很多人、甚至是絕大多數人類死亡。這對我來說，是需要嚴肅看待的問題。」

美國商業新聞雜誌《快公司》（Fast Company）則報導，近期一項針對40名AI工程師所進行的問卷調查結果顯示，他們的平均末日值爲40，也就是業界普遍認爲AI導致人類滅亡的機率爲40％。

再像特斯拉（Tesla）創辦人馬斯克（Elon Musk）剛成爲「2023年財富增長最多的人」，則曾公開表示自己的末日值爲20至30左右。而AI新創公司Anthropic執行長阿莫迪（Dario Amodei）的末日值爲10到25之間。

馬斯克曾公開表示自己的末日值爲20至30左右。路透

有趣的是，《快公司（Fast Company）》形容美國聯邦貿易委員會（Federal Trade Commission）主席可汗（Lina Khan）是「最常打着『反AI』旗幟的人物」，但她的末日值卻相當低，認爲AI會導致世界末日的機率僅爲15％。

末日值可助判斷他人的態度

嚴格來說，末日值是一個相當主觀的存在，它並沒有一套可量化的衡量標準，甚至連業界約定俗成的標準都沒有。

但魯斯在報導中指出，末日值存在的意義並不在於有多準確，畢竟人們詢問他人的末日值時，並沒有事先設定好「末日」的定義。

「如果一半的人類因爲AI崛起而死去，這可以算是『末日』嗎？那萬一大家都沒有因爲AI而死掉，只是都集體失業了、過得很不快樂，這是否爲末日的一種？AI具體會如何征服全世界？」魯斯寫道。

與其說末日值有任何實際學術價值，它其實更像人們心中的一把尺，可幫助一個人判斷周圍的人對AI的看法及態度。魯斯形容末日值爲某種「社交標誌」，讓參與對話的人可以快速找到在AI議題上志同道合的人。

魯斯在報導中寫道，OpenAI日前人事風波鬧得滿城風雨，董事會當時宣佈將由直播平臺Twitch創辦人席爾（Emmett Shear）接替奧特曼（Sam Altman）出任OpenAI執行長，不久後就有員工分享一支影片，指席爾在錄製一場播客節目時提及自己的末日值高達50，讓員工紛紛擔憂這位「空降」到公司的執行長會出於對AI技術的不信任，而要求團隊放慢研發新產品的步伐。

由此可見，一個人的末日值多多少少會直接影響他欲樹立的個人形象，最終可決定他可以融入到哪些圈子當中。

（本文出自2023.12.28《遠見》網站，未經同意禁止轉載。）