對談皮埃羅·斯加魯菲：無懼失控，擁抱AI的不確定性

日前，由微博、新浪新聞共同打造的AI跨界對話欄目《新智者首席Time》完成第二期節目上線，人工智能學者高慶一作爲嘉賓主持人，與《人類2.0》作者、"硅谷精神佈道師"皮埃羅·斯加魯菲通過對話形式探討了新AI浪潮下，人與機器之間的關係、人工智能的失控與不確定性，並探索了人類未來科技新趨勢等話題。

以下是"新智者首席Time"對話實錄，內容經過編輯略有刪減：

高慶一：今天特別高興在新智者首席time我們有機會採訪皮埃羅·斯加魯菲。很有意思的是，在2018年，我記得，我隨便在我的書店裡面看了一本書，叫做人類二點零（Humankind 2.0），皮埃羅不僅僅是一個人工智能學者，他同時還是一個硅谷的創業者，也是一個硅谷的投資人。他非常瞭解歐洲，也非常瞭解硅谷，甚至他來中國的次數也非常多。所以一個人又瞭解亞洲、又瞭解歐洲、又瞭解美國，對於科技創新的現狀、歷史和明天，我相信今天的對話，能夠給我們大家以一個啓發。

皮埃羅先生，我非常榮幸有這個機會和您交談，你知道自2022年10月以來的100天內，我們都見證了諸多神奇的科技發明，也就是ChatGPT、可控核聚變以及室溫超導。我還注意到您在2017年提到一本新書，這是怎麼回事？您預測到了未來科技？

皮埃羅：這不是預測。我只是聽到了大家正在討論的東西，有些預測成爲了現實，有些預測沒有實現，我的意思是說，如果你的朋友圈裡有來自各個領域的業內人士，這就容易多了，你只要傾聽，然後再想想哪些科技能夠讓我們改變世界，這纔是最重要的。我想這就是歐洲與美國之間的一個巨大差異。我在歐洲出生，在歐洲，人們更多關心哪個是真實的，對吧。而在美國的東海岸，哪一個是真實的，哪一個是我能夠很快應用的，而我想在舊金山灣區，人們更多關心的是哪一個將會產生更大的影響，然後你會相信人們會竭盡全力去開發那個能夠產生真正影響的科技，所以我認爲我受到了這種精神的影響。

高慶一：如果讓您從未來科技中刪除一項或者新增一項新技術，那麼您的選擇是什麼呢？

皮埃羅：這個問題非常好。有一件事，關於新材料，因爲我想我們正逐漸接近能夠創造新材料的革命階段，而不是尋找諸如超導體這樣的材料，我們正在尋找具有超導性能的材料，我想下一代將能夠創造這種材料，而不是尋找這種材料，我們正逐漸接近於這種材料。我得說我知道這是一項絕密的技術。

高慶一：好吧，我們來聊聊這次訪談的主題吧。第一個問題是關於人類社會的，我相信這個問題您已經回答了好多次，我想每個訪談都是從這個問題開始的，那就是，您認爲在未來人工智能是否會趕超人類。但是，我想從另一個角度提出這個問題，您認爲人類與機器的關係，人機之間是互爲替代的關係、是敵人或者是朋友關係？雙方會攜手創造未來，還是構成競爭關係？我們需要競爭，機器會贏，還是人類會贏，您怎麼認爲？

皮埃羅：我們能與並非人類創造的動物一起共存，我們爲什麼不能與我們製造的機器共存呢，是機器具有更高智能嗎？當我還是個孩子的時候，每個人都認爲智能就是指數學能力，世界上第一臺電腦，哪一年製造的，1940年，1951年？

高慶一：1956年，馮·諾依曼。

皮埃羅：他已經制造出來了，那臺電腦當時比任何一個人都更加智能，所以說那不是個問題，問題是我們人類能夠與周圍的智能的東西共存，並利用這種智能，這就是我的觀點。

高慶一：這是一個關於失控或者受控的問題嗎？因爲有人說你提到了動物，而人類可以殺死動物，所以說人類比起動物而言具有更高智能這一優勢，但機器有時候會失控，甚至埃隆馬斯克說過，如果我們任由人工智能自由發展，有時會威脅到人類的安全，因此您是否認爲人工智能處於受控狀態？

皮埃羅：我們人類創造了一個非常複雜的社會，有時候這個社會是會失控的，有兩種非常明顯的很可怕的情況，第一種就是經濟，時不時地經濟會崩潰，爲什麼呢？是經濟學家很愚蠢嗎？不，他們都是非常有智慧的人，但世界經濟非常複雜，如果泰國或者阿根廷出了問題，爆了，你猜怎麼着？

高慶一：整個經濟崩了。

皮埃羅：我們的經濟崩盤了，簡直難以置信。2007年的經濟大衰退他們還在討論這個經濟崩潰的原因，20年過去了，大家還是不清楚經濟危機的產生原因，所以說經濟是個問題。另一種情況，當然就是國際政治，你知道的，不知怎麼的這個地方發生了戰爭，一會兒另一地方也發生戰爭，誰能預料到呢？沒有人。戰爭爆發的原因是什麼？於是歷史學家寫出了許多大部頭的書來闡述。所以說我們人類創造了許多失控的複雜系統，這就是現實。現在，就人工智能而言，埃隆·馬斯克這樣的人這樣告訴我，但是人工智能發展非常快，項目推進也很快，對吧，這沒錯。但是有些人希望人工智能的發展速度降下來，對此我沒有特別的想法。我們該如何做呢？我們該如何處理這類複雜系統呢？比如說，出現了某種氣候變化，這種氣候變化很大，我們該怎麼應對氣候變化呢？我認爲這些問題比人工智能要嚴重得多。因爲在這類情況下，人類會陷入非常大的困境，可能導致數百萬人的死亡，那麼我們該如何應對這類事情呢？是有一門領域，準確說，叫混沌理論，社會學家會研究這個理論，我們該如何應對這類事情呢？對於這類複雜問題，我們應該如何表明自己的立場呢？這對於人工智能來說不是個新問題，唯一的區別是人工智能發展非常快，對吧，因此我們或許應該把速度降一降，也許各國應該達成共識，機器不得快速作出決策。

高慶一：是的，我們需要應對不確定性，不僅僅是人工智能。但是我常常在想爲什麼人工智能，你覺得人工智能真的會傷害人類嗎？有沒有這種可能性？

皮埃羅：任何軟件都可能以各種不同的方式傷害到你，但是如今的人工智能技術的一個問題是，不確定性。如果你回到人工智能的初始階段，其基礎是數學邏輯，那麼，優勢是什麼呢？優勢就是它很精確，就是邏輯。A至B至C至D至E然後是結論。第二點，你可以一直問爲什麼，它會回過頭來告訴你，因此這個、因此這個、因此這個、因此這個。對的，符號系統，就是數學，全部是數學邏輯。對於如今非常流行的人工智能而言，這有點令人擔憂，因爲人工智能並非基於邏輯，而其本質是不確定性。你知道的，人工智能很厲害，能夠做很多事情，比如說人臉識別。人臉識別就是不確定性推理的一個範例，有時候你在大街上看到某個人，你會說哦那是我朋友，哦搞錯了，不是我朋友。甚至包括我老婆，我要去接我老婆，這時候有個人出現了，說嗨，然後說對不起對不起。好了，這就是不確定性推理。這就是不確定性。因此當我獲得這個結果，如果我問爲什麼，機器不能回覆，因爲機器不能夠從數據中得出結論，正如你不能從很多事件中得出結論，這就是我所想說的，這樣就會導致更多的危險。不是因爲機器不精確，或者說不確定，而是因爲我們應該在使用信息時更加謹慎小心。你提到了ChatGPT，這是個很好的例子。ChatGPT是個很棒的生產力工具，但你必須記住這個工具並不精確，ChatGPT是非常非常容易出錯的，現在呢有些人僅把它用作生產力工具，可以幫我寫出完美的代碼，但是你不能讓ChatGPT爲核武器寫代碼。

高慶一：確實不能

皮埃羅：顯而易見是不能的，所以說你必須小心謹慎。你該如何使用一個不太精確的工具，比如說你在建一座橋，建造橋樑的人可以使用物理知識，但是他們知道要想把橋建造得更加堅固，僅靠物理知識是不夠的。所以，當你使用ChatGPT的時候，確保你還有別的信息來源，或者你就是專家，能夠控制ChatGPT的運行，這對於新的人工智能，另一問題就是這是人工智能，它並不精確，你不能問爲什麼，你甚至不能詢問信息來源。我還在使用谷歌，爲什麼呢，谷歌或者其他搜索引擎，因爲我能夠看到信息來源，谷歌告訴我是這個頁面，但是ChatGPT，如果我問尼日利亞的首都在哪裡，阿布賈。好的，信息來源是哪裡？ChatGPT不知道。區別很大。

高慶一：因此權威性非常重要，權威性就意味着你的信息來源，但是你知道，在機器學習中

這是種監督式學習，或者說強化學習，在當時，沒有人對此表示擔憂，但對於深度學習，我們失控了。我們認爲這是個黑箱，我們不知道這個機器究竟在想什麼，甚至於我們能夠控制機器的簡單邏輯，但我們不能控制其結果。所以問題是，我們怎樣才能讓人工智能系統與人類價值觀保持統一？

皮埃羅：首先，這不是一個新問題。因爲自1983年以來我一直從事人工智能的工作，至今40年了，新技術層出不窮。一直覺得我們在做某種可怕的事情那種恐懼，我們爲什麼會這樣？我們人類總是善於擔憂，這很好，我希望人類保持擔憂，只有這樣，我們才能防止出現問題。

高慶一：下一個問題，我想您已經回答過好多次了，未來人工智能會大規模取代人類的工作嗎？

皮埃羅：最簡單的回答是會取代的，但這不是真正的回答，每一臺機器都取代了人類的工作。一個世紀前，大多數人都是騎馬，120年前，人們大多數騎馬旅行而不是開車，這些馬哪裡去了，以及你知道的那些餵馬的人呢？換工作了。我還是孩子的時候，有許多人都是用打字機打字的，這些工作呢？消失了。我小時候在意大利生活，那裡每個十字路口都有交通警衛，有交警在指揮交通，現在路口都是交通燈，我們有多少個交通燈？準確說，有數十億個交通燈，這類工作呢？全部沒有了。因此每一項技術都會導致工作的變化，所以當你說失去工作，我更願意說工作變換了。你這麼說暗含的意思是沒有創造就業機會，這不準確。國家變富了，中國更富了，美國更富了，歐洲更富了，你知道的，技術讓人們更加富裕了，而不是讓人們更窮了。而我也是二十世紀八十年代新創造的工作機會的受益人之一，我學的是數學，但幸運的是，我成爲一名軟件工程師，否則，我今天不會在這裡接受採訪。我的父親是食品銷售人員，他生活得很好，這沒問題，所以說，你應該問我的問題是，新技術將創造出哪些就業機會，因爲人們無論年齡大小，必須開始考慮那就是未來的社會，這個纔是真正的問題。對於ChatGPT來說，知道誰會丟工作，這個是重要的。在有些情況下，答案很顯然，在某些情況下，答案並不那麼明確，會創造出哪些工作，這個問題問得好。最近 Anthropic在舊金山市成立了一家新公司，這個新創公司公開招聘提示工程師，提示工程師是什麼工作？我不清楚，但是薪水很豐厚。對吧，這可能是個新的職業，所以你不妨去試一試。總而言之吧，就我看來，顯而易見，新的就業機會創造出來了，有的工作消失了，但這只是一個方面，你得告訴我還有哪些工作被創造出來了，然後我們可以對比分析，創造了多少，以及薪水怎麼樣等等。至於我的薪水，我的第一筆薪水比我父親一輩子掙的全部薪水還要高，他從未掙過這麼多的錢，我的第一筆薪水，這對他而言是足夠羞辱的，所以說，你得考慮過去的情況，而不僅僅是問哪些工作因此消失了。當然，任何技術，按照定義，任何技術都意味着有些工作會被淘汰，我們進入了一個新世界，但你得問一問哪些新的工作確實被創造出來了。

高慶一：確實是這樣，你認爲ChatGPT是個中間界嗎？因爲在學術界，對於寫論文、寫文獻綜述的博士生，所有這些章節，均可由ChatGPT代勞嗎？他們可以得到非常不錯的文獻綜述，閱讀該領域的每一份論文，並寫出非常好的概要，你認爲ChatGPT或類似的東西，如AI成爲一種中間界，因爲我們可以將其用作工具，協助我們做好本職工作。

皮埃羅：這些工具可以幫助人們完成工作，正如我之前所說的，這些工具已經幫助人們編寫軟件程序，現在，如果你是個軟件工程師，你肯定會擔憂不已，但是如果ChatGPT使得數百萬人能夠編寫軟件程序，那很好，軟件工程師已經賺了不少的薪水。

高慶一：我對這個問題很有興趣，那就是，將來人工智能機器人會有與人類一樣的情感和情緒嗎？他們在未來會擁有像人類一樣的各種情緒嗎？我們會生氣，我們會開心，我們會笑，我們還會哭，你認爲未來社會機器會有與我們人類一樣的情感和情緒嗎？

皮埃羅：這實際上是兩個問題，一個問題是，機器人會像有情緒的人那樣說話做事嗎，我認爲最好不要這樣，因爲我們人類很容易就生氣，所以說，這是一個問題，實際上取決於我們如何給機器設定程序，這個我們可以避免這種情況，儘量保證回答中不含這些內容，因此我希望我們的聊天機器人能學習我們人類的良好行爲，而不是學習我們人類的惡劣行爲。這確實是個很大的風險，因爲ChatGPT會閱讀Facebook（臉書）、Twitter（推特）上的東西，它會看到大量的表達憤怒的內容，許多人相互叫罵。對吧，因此這是個問題，如果你問的是關於情緒感受方面的神經科學，我不知道答案，我不認爲是這樣，我認爲人天生如此，天生具有感知情緒的能力。個人觀點，如果你天性不是如此，你可能無法感知情緒，這還是我的個人看法。對於機器而言，我更感興趣的是言行，機器是否會表現得，比如說，不理性，當我們經常生氣的時候這叫不理性，因爲如果我生你的氣，你也會生我的氣，有時候我們製造更大的麻煩。

高慶一：好了，讓我們談一談中國市場吧，ChatGPT現在風靡全球，中國互聯網行業也爲之振奮，越來越多的公司和投資人選擇加入大模型這片藍海，這也包括阿里巴巴、百度等知名企業。據您瞭解，國外的企業也有這麼瘋狂嗎？我覺得呢，肯定也是這樣吧。

皮埃羅：實際上，在歐洲，我剛剛從歐洲過來，而且我對歐洲非常熟悉。在歐洲，大家的興趣很低，所以我認爲他們不是那麼的瘋狂，我認爲最瘋狂的一類人是藝術家，藝術家對這類事物非常瘋狂。但是在科技界，我沒有看到大家都是一片歡騰，我認爲他們都是非常講究實際的，他們知道這個技術的侷限性，他們也知道這個技術的成本。我的意思是說，只有非常有錢的大企業才能承擔起這些訓練機器的運行成本，所以我認爲歐洲人對這項技術的興趣並不大。而在美國，也主要侷限於舊金山灣區，我認爲對大多數人來說，這個侷限指的就是那些機器，因此需要這類大型機器，所以呢，這個技術的吸引力是有限的。你知道爲什麼通用電氣或者福特公司會在這項技術上投入巨資嗎？一旦技術成熟，他們可以從Open AI公司獲得這項技術，所以我認爲最興奮的人主要是加州人和中國人。

高慶一：藝術家對NFT（非同質化代幣）非常追捧，藝術家對ChatGPT也非常追捧。

皮埃羅：我們西方人有一個很大的優勢，我們鼓勵藝術家，我們資助藝術家，而藝術家會產生大量的奇思妙想，你知道嗎。是誰創造了網絡空間這個概念？是一位作家。是誰創造了元宇宙這個概念？也是一位作家。你知道的，藝術家都有很好的靈感，有這麼一家新創公司，他們是做某種東西的，具體產品我忘了，我讀了那個訪談文章，當訪問者問公司的創始人，對於這個瘋狂的創意，您是如何獲得靈感的，他們開始提到科幻小說、電子遊戲、甚至是音樂，他們並沒有提到史蒂夫·喬布斯或愛因斯坦等等，所以我認爲中國人低估了藝術家對我們社會的巨大貢獻，甚至對於元宇宙來說，誰是虛擬現實元宇宙的首批用戶呢？

高慶一：是藝術家。

皮埃羅：遊戲，順便說一下，遊戲公司會聘用藝術家，而藝術家會產生許多奇怪的創意，在元宇宙裡做哪些事情，甚至是智能手機，iPhone手機之前的老的智能手機。當我還沒有這麼一部手機的時候，許多藝術家就擁有一部這樣的手機，想象力和繪畫，確實如此，想象力，創造力，而且他們不一定要賺錢，這是個很大的區別。新創公司必須要賺錢，可能不一定是在六個月內，但你必須有個商業計劃書。藝術家可以產生一些瘋狂的想法，然後你仔細思考，你知道，比如說，哇哦這個想法很意思。

高慶一：非常棒

皮埃羅：你知道的，iPod，就是那個讓蘋果公司起死回生的產品，當時我在新加坡開會，那個老闆走進會議室，非常生氣，把各種亞洲生產的產品放在那裡，MP3播放器這是在亞洲生產的產品，日本吧，也可能是中國，中國香港等等吧。他把這些東西一股腦放在那裡，然後說，你們誰能給我解釋一下，爲什麼iPod會大火，爲什麼我們的小孩子都在買iPod呀，而不買這些產品呢？這些產品兼容MP3，內存更大，質量更好，老闆非常生氣，關鍵是什麼，是設計，這看上去很酷，沒錯，這個看上去很酷。就這樣，這就是藝術家的功勞，我不可能設計出很酷的產品。史蒂夫·喬布斯聘用了設計師來設計iPod，這產品甚至和MP3不兼容，也不是最便宜的，甚至不是，但是它很酷，這是一個很典型的例子，所以我認爲中國人低估了藝術家對於技術進步的貢獻。

高慶一：您說得對。您認爲什麼樣的企業在這條賽道更具有競爭力？

皮埃羅：哪個賽道？

高慶一：ChatGPT大模型。

皮埃羅：嗯，現在這樣的公司很少，只有Open AI、谷歌等，我認爲Meta公司擁有非常好的技術，這類公司很少，更好的問題是哪些新創公司有能力發起挑戰，挑戰現有格局。我不希望整個市場僅由3-6家公司，包括中國公司所主導，所以說，哪家新創公司能夠對這些大公司發起挑戰呢？我們有幾個仿人聊天機器人，現在有幾家不錯的新創公司，確實興起的比較少，很多這類公司的投資人以前曾在谷歌、Meta、Open AI公司工作過，這是更有意思的問題，我不希望整個市場僅由大公司所主導。

高慶一：在中國，投資人以及新創公司之間有一些爭論，大家在爭論 ChatGPT究竟是在幫助新創公司，還是在摧毀新創公司，您認爲新創公司該如何更好地運用ChatGPT來增強在這個領域的競爭力呢？

皮埃羅：好消息是，有20多個免費開源的大型語言模型，而且我認爲這些大公司感受到了壓力，因此不得不這樣做。而在硅谷，這種事很正常，你發明了某個東西，你開放源代碼，因爲你想看看大家會如何使用你的發明，超過20個，可能截至目前，每週都會增加新的模型，到現在，已經有30個了。這些都是你可以使用的大型語言模型，我能夠使用，如果你繼續的話，可以利用這些模型。GitHub，就是開源開發人員的主要聚集地，你會發現有100個項目，大家利用某個語言模式做點事情，換句話說，此前我認爲數據庫可能，我們也是擁有如此程度的開放源代碼，但擁有如此程度的開放源代碼的大型的語言模式，我以前從未見過。太多開源代碼，太多了。總的說來，GPT 4.0是第一個沒有開放源代碼的模型，所有其他模型都有開放源代碼，這就給予新創公司極大的鼓勵。那麼現在新創公司可以與Open AI公司一較高下嗎？這幾乎是不可能的。爲什麼呢？因爲Open AI公司的後臺老闆是微軟，微軟投的錢，大筆的錢，機器非常昂貴，那麼新創公司能用語言模型做點什麼嗎？可以的，算法，非常簡單，他們可以開發各種非ChatGPT的實際應用，ChatGPT不是他們唯一可用的模型，大型語言模型是大模型，好的，你可以將大模型用於經濟、用於汽車駕駛、用於理財，個人理財，當然，也可用於化學、用於生物學、用於醫學。我認爲這會鼓勵新創公司用這些模型進行試驗，從而開發出各種實際應用。所以我的回答是，既是又不是。新創公司能夠與Open AI一較高下嗎，可能不行。沒有意義，對吧。但是他們能否開發出Open AI也開發不出來的東西，有可能。

高慶一：找到另一條路。最後一個請求，您可以爲我簽名嗎？

皮埃羅：當然可以。