李飛飛六月對話馬克·安德森 | 萬字全文 · HAI研究所5週年會議現場 （附視頻）

未經許可不得轉載，務必保留原文出處鏈接和公衆號按鈕

（關注本城公衆號並加星標，第一時間獲取

最新全球頂尖科技認知）

文：Web3天空之城·城主

這是李飛飛和著名硅谷投資人馬克·安德森近日在飛飛擔任所長的斯坦福HAI研究所5週年會議上的現場爐邊對話。

這兩位圈裡赫赫有名的大咖同臺對話，本城整理了書面文字和中英精校視頻和讀者分享。（城主想指出一個有趣的點是，馬克·安德森明顯有着AI的大國競爭思維，但同時作爲AI投資人他又看起來有些矛盾的支持着開源開放... 作爲其個人觀點，讀者可以自行甄別，不再贅述。）

B站傳送：【精校】李飛飛爐邊對話馬克·安德森 | HAI 5週年會議現場 2024.6 【中英】-嗶哩嗶哩】 https://b23.tv/tCHXyAR

主持人：

我們的下一場會議將深入探討通用人工智能的雄心勃勃的目標。風險投資家Marc Andreessen與李飛飛將一起探討如何構建一個蓬勃發展的創新生態系統，以安全地實現這一目標。

Marc Andreessen是著名風險投資公司Andreessen Horowitz的聯合創始人兼普通合夥人。Andreessen因共同編寫了第一個廣泛使用的網絡瀏覽器Mosaic而聞名，他對技術領域產生了重大影響。他的投資和對技術趨勢的洞察塑造了衆多初創公司的成長，使他成爲科技行業的關鍵人物。所以，請歡迎Marc和李飛飛上臺。

飛飛：

我很高興能主持與Marc的爐邊談話，他是我多年的朋友和同事。我不知道你聽說過多少關於Marc的簡歷。Marc不需要介紹。但真正讓我印象深刻的是，你正處於互聯網的黎明時期。您是推動互聯網發展的人們之一。現在我們正處於人工智能的黎明時期。當然，作爲硅谷一位頗具影響力的風險投資家，您的公司正在做的事情就是實現人工智能。

關於Marc的另一件事是，我想是去年，您撰寫了一份非常有影響力的技術樂觀主義宣言，這份宣言因堅信自由市場推動的技術進步對人類進步至關重要而廣受讚譽。

馬克：

您說的“名聲”，您的意思是尊重和認可。

飛飛：

我的意思是“名聲”。是的。所以，我們會談到這個。但我確實想先問您這個問題，您一直非常直言不諱地提倡振興這個生態系統，提倡消除障礙和阻礙，包括限制政府的作用，特別是在監管方面。您相信人工智能、實現人工智能、培育人工智能將比過度監管更廣泛地造福社會。

所以，我們在這裡慶祝HAI五週年。我們正處於最新一代人工智能革命的中心。進一步闡述。與我們分享您的想法。

馬克：

當然。是的。首先，能來到這裡真是太好了。看到這個機構過去五年來所做的所有工作，我感到非常高興。有幾件事。首先，我認爲這種對話持續了很長時間，這真的很好。我想說，我在硅谷的前20年，我們基本上只是在開發工具。然後，實際上只是在過去十年中，我才從政治、道德和這些更大的社會問題的角度來描述硅谷。這有點像追上公交車的狗，我們開發了所有這些工具。事實證明，它們確實很重要。它們對社會和政治體系都很重要。所以，我認爲這很棒。我認爲這些都是非常非常重要的問題。我認爲這些對話正在進行中，這很棒。

因此，對於這個問題，我將從一個故事開始，這個故事可以告訴我我是如何看待這個問題的。今天發生的對話的基本、簡化版本，它圍繞社交媒體和互聯網已經發生很長時間了，現在它圍繞着人工智能發生。這個故事有點像這樣：有一個新事物，它會有害嗎？如果它有害，就需要控制、監管或阻止它。這種對話的隱含基礎是技術倫理中所謂的預防原則。

預防原則是一個基本的、似乎非常合理的主張，即技術的發明者應該能夠預測它是否會產生負面影響。如果會產生負面影響，他們有責任阻止它，因爲他們不追求和部署這種技術。

預防原則有一個非常有趣的起源。它來自20世紀70年代德國綠黨對民用核電工業崛起的迴應。核技術顯然在20世紀40年代和50年代作爲一種軍事技術出現。然後到了50年代和60年代，民用核能出現了大發展，人們開始期待從原子能中獲得無限的能量。

到了70年代，德國綠黨站出來決定停止核能，並制定了預防原則，提出只要民用核能開發商不能證明核能在任何情況下都是完全無害的，就應該停止部署。基本上這個方法奏效了，核能停止了。

在美國，這個想法被採納了。1971年，我出生那年，時任總統尼克松提出了一個他稱之爲“獨立計劃”的計劃，即到1980年在美國國內建造一千座核電站。這會導致整個美國經濟陷入衰退。電網改用核電，這將使我們完全脫離中東。這將使我們現在知道，美國基本上可以實現完全清潔、零排放、零碳排放的能源。這將推動向電動汽車的轉變。

所以尼克松提出了這個建議。然後，當然，他成立了核管理委員會，阻止了這種情況的發生。而今天，我們在美國，正在開發的新核電站爲零。如果你看看過去40年民用核電的部署圖表，它基本上完全停止了。這導致了我們當前政治的許多方面。對於任何關心碳排放氣候的人來說，這無疑是一個巨大的錯失良機。

我想說，環保運動現在開始意識到發生的悲劇，我們有零排放能源的靈丹妙藥，但我們決定不使用它。順便說一句，這也導致了當前的事件，它基本上助長了俄羅斯和烏克蘭目前的情況。由於決定不部署核電，德國變得非常依賴天然氣。因此，它變得非常依賴俄羅斯。歐盟其他國家也是如此。因此，歐盟基本上在過去20年裡一直在爲普京政權提供資金，而且至今仍在通過從俄羅斯購買能源爲戰爭提供資金。

回顧過去，我們基本上感到震驚，我們只是覺得，哦，天哪，他們怎麼會犯下如此可怕的錯誤。順便說一句，在過去70年對民用核能的全面覈算中，現在非常清楚，它是最安全的能源形式，與任何其他能源相比，它造成的人員死亡人數基本上極少。所以，我們怎麼可能做到這一點？

所以對我來說，好吧，我們也許不要再這樣做了。

飛飛：

所以你在人工智能中看到了這種危險？

馬克：

哦，100%。是的。所以這基本上是相同的動態。這基本上是相同的討論。

飛飛：說詳細一點。

馬克：

是的，所以是同一件事。

因此，討論中的假設是，如果存在潛在危害，那麼就應該有監管、控制、限制、暫停、停止、凍結，還有各種不同的提議。但這是一種壓倒性的負面框架，這種風險規避框架，與預防原則非常一致，但它是討論的框架。

飛飛：

情況不是更復雜一點嗎？如果你看看拜登總統去年的行政令，有預防措施，但也有激勵和競爭角度，因爲地緣政治現在非常複雜。那麼，你是否因爲認爲監管已經太多而過度關注技術的積極推動？或者你只是想呼籲採取行動，推動更振奮人心的工業努力？

馬克：

是的，所以首先，讓我們談談地緣政治，因爲這非常重要。這是我觀察到的另一件事，至少在我特別在華盛頓特區的討論中是如此，我最近在華盛頓特區花了很多時間。我的公司很長時間沒有參與政治。我們非常努力地不參與政治，但有一句古老的蘇聯笑話說，你可能對政治不感興趣，但政治對你感興趣。因此，在過去的一年半、兩年裡，我們非常參與華盛頓特區，人工智能是我們推動的重要部分。

我很高興你提到了另一件非常引人注目的事情，那就是關於華盛頓特區的討論，基本上就是華盛頓特區的討論出現了精神分裂。我的描述方式是，如果我週二去華盛頓特區，討論的都是國內政策，國內監管，美國公司、大型科技公司、小型科技公司、大學正在開展的工作，以及這些工作是否應該受到控制、限制或停止，這是我們開始的對話。如果我回到週四，討論中國和地緣政治，那將是完全不同的話題。

那裡的討論是，天哪，我們必須贏。那裡的討論是，中國在過去十年中一直宣稱人工智能是中國的國家戰略重點。這是他們民用、人口和社會信用等所有方面的國家優先事項。這是他們數字“一帶一路”的關鍵組成部分，旨在向全球廣泛傳播中國的治理和技術模式，與美國的精神形成競爭。然後這也是爲了軍事的未來。順便說一句，在美國，國防部也有一個概念，他們稱之爲抵消，人工智能和自主性幾年前被宣佈爲所謂的第三次抵消，這基本上是國防的關鍵技術。這對於國防系統的建設、國防部的運作方式以及未來戰爭的打法都有很多影響。

因此，現在就像是一場國家軍備競賽，就像是一場國家地緣政治競爭，對美國和中國國內、全球和軍事上發生的事情有着重大影響。討論的重點是我們必須獲勝。當然，這些對話是直接衝突的，也就是說，我們是否基本上限制了國內對話？我們是否限制了自己，以至於放慢了一切速度並限制了它？然後在地緣政治問題上，哦不，我們必須全速前進。我們必須獲勝。

聽到華盛頓的人不認爲自己有責任調和這兩個話題，你可能不會感到驚訝。

飛飛：我認爲這就是他們週六所做的。

馬克：

我想，到目前爲止，他們還沒有調和這兩個話題。坦率地說，我認爲這意味着他們實際上把這個問題留給我們自己去解決。

飛飛：

好吧，讓我們深入討論一下其中一個，因爲這兩個主題都集中在一個辯論上，那就是對開源的嚴格辯論。現在，它正在全國範圍內發生。就在我們家鄉加利福尼亞州，我們看到州參議院正在審議關於監管和控制潛在開源的令人不安的法案。你對此有何看法？

馬克：

是的，所以，開源討論非常有趣，因爲它被描述爲，有一維版本，或者一步版本，還有兩步版本。一步版本與預防原則非常一致。我認爲當前的加州法案反映了這一點。歐盟的《人工智能法案》也反映了這一點。我認爲加州的法案在某種程度上是基於歐盟的《人工智能法案》，該法案是在立法中實施的預防原則，也就是說，好吧，這被認爲是潛在的有害的，因此必須加以控制以防止危害。

無論如何，再說一遍，這就是預防原則的全部內容，這聽起來總是很合理，因爲你怎麼可能反對它呢？但是，重要的是要考慮第二步，特別是關於開源，第二步會讓人眼花繚亂，一眨眼就明白了，這好吧，什麼是開源？它是軟件代碼，軟件代碼是一個有趣的東西，它有點像介於語音和技術之間的東西，我總是把編寫軟件描述爲有點像寫小說，又有點像設計化學公式，兩者有點像。所以，它是一種表達形式，它有很多藝術美學方面，但它不僅僅是言論，它不僅僅是站起來說一些有功能含義的話。所以它介於言論和技術之間，關於它在多大程度上符合言論自由保護的爭論由來已久，但它在某種程度上是兩者的結合。

然後，開源，對於最初的術語，在那之前的自由軟件，我可以下載它，我可以查看它。它是一個白盒子，而不是黑盒子。我可以看到它裡面的東西。我可以修改它。我可以，我可以，我可以從中學習。所以我認爲第二步你要問自己，好吧，你需要設計什麼樣的社會才能擁有執行機制來執行任何形式的開源禁令或限制，現在你開始進入奧威爾領域了，好吧。這有點像是，一種探索，看看人們對此有什麼想法。建議的範圍有點像，它有點開始於，我們只需要在每個芯片上放一個軟件代理，檢查人們是否在使用經過批准的開源，就在那裡，我想，好吧，等等，堅持一下。就像1984並不是一本說明書。就像我們不應該在我們所有的電腦上運行軟件代理，這只是第一步。然後基本上從那裡開始的政策處方變得越來越可怕。

而且，我認爲他們最終在《時代》雜誌上非常誠實地表達了這將帶你走向何方。大約一年前，埃利澤·尤德科夫斯基在《時代》雜誌上發表了一篇文章，我再次讚揚他堅持自己的信念，說出自己的想法，也就是說，要實施對強人工智能和開源的禁令，你不僅需要進行讓奧威爾臉紅的廣泛監控。你還需要在全球範圍內執行它。因爲僅僅在美國禁止它是不夠的，你必須考慮到其他180個國家。所以你需要實施全球禁令。當然，你需要執行全球禁令。因此，你需要做好準備，將美國派遣出去。空軍將轟炸非法數據中心。他甚至說你需要願意冒核戰爭的風險，所以你需要想象一下美國的隱形轟炸機單方面轟炸數據中心。這就是這種情況。所以你必須問自己，好吧，你到底想生活在什麼樣的社會裡，能夠執行這樣的事情？

順便說一句，把我放在另一邊。對，這就是執行。

飛飛：

你能談談我們爲什麼需要開源嗎？爲什麼你要和硅谷這麼多的創業公司合作？爲什麼開源如此重要？

馬克：

是的，所以這是另一種方式，比如，開源扮演什麼角色？這與人類自由等問題無關，我認爲這很重要，也與沒有第三次世界大戰有關，我認爲這也很重要。是的，另一個問題是開源在創新生態系統中扮演什麼角色？

我只想告訴你，我對此的看法基本上是現代技術、現代計算機科學、現代軟件的三角關係，基本上是開源、創業公司，也就是我的日常工作，然後是學術界。我坦率地說，如果開源以某種方式被禁止或限制到一定程度，那將是至關重要的。首先，我認爲，創業公司就會倒閉。因爲我們資助的每家初創公司基本上都是建立在開源之上的，每個人都認爲你可以建立一個開源軟件是理所當然的。每個新的軟件項目基本上都是建立在開源之上的。所以某些初創公司就倒閉了。

這個方向的另一個後果，有點像第二步、第三步，就是初創公司倒閉，因此，基本上，所有的開發都委託給了一個基本上永遠掌權的大公司聯盟。再說一次，你要問問自己，這是否真的是你想要的結果。然後第三點是，你們告訴我，我認爲，基本上，學術界會消亡。當然，學術計算機科學會消亡，這個機構會消亡。

飛飛：

如果沒有開源，我不知道這裡的工作會發生什麼，因爲我們也是一些最大的開源軟件提供商。（城主：應該是指ImageNet）

讓我們來談談學術界，因爲你們的技術樂觀主義者的名聲和尊重的一部分。因此，多年來作爲朋友，我非常欣賞馬克的一件事是，我們是知識分子的朋友，彼此深深尊重，但不一定同意對方的觀點。我認爲，這實際上……謝謝。實際上，我認爲這在校園學術界的這個歷史時期非常非常重要。海引以爲豪的一件事就是爲這種嚴謹的辯論提供了平臺。事實上，在我們之後，休息後，您將聽到有關監管等的小組討論。但在您的宣言中，您實際上使用了敵人這個詞。與這個詞相關的是，您談到了技術倫理、信任和安全等想法，在某種程度上，它也與象牙塔有關。您剛纔提到您關心學術界和生態系統，我知道您確實關心。那麼，您如何調和您在文章中寫的內容？您的真正意思是什麼？您如何看待學術界的這一歷史性時刻？

馬克：

是的，我先從我使用“敵人”這個詞開始說起。我在文章中非常明確地提到，我談論的是思想，而不是人。因此，我認爲參與這些事情的任何人都不會將他們視爲敵人。但我確實認爲有些想法很糟糕。我認爲我們生活在一個有些糟糕想法已經變得非常普遍的時代，這些想法需要受到挑戰，我已經闡述過了。

飛飛：

那麼，爲什麼人工智能中的信任和安全是壞的？

馬克：

因爲它被劫持了。它是一種預防原則，是在公司特定的背景下實施的。對於那些不知道的人來說，信任和安全是一個術語，基本上在現代科技公司內部，它相當於內部事務。實際上，這是一個團體，實施了某種內部限制。這大概是從互聯網公司開始的，我認爲第一個必須信任和安全組織的公司是eBay，它有點像是監管互聯網拍賣。當然，你需要有一個警察職能，你要有一個互聯網拍賣網站。

我記得當eBay剛開始的時候，它似乎根本無法發揮作用，因爲怎麼會有人相信別人呢？eBay之所以成功有兩個原因。首先，Pierre Omidyar相信大多數人都是善良的，所以大多數人都會列出合法產品並參與交易。但他也認爲，擁有一種稱爲信任和安全的職能也很重要，這基本上就是警察。所以如果你在eBay上買了東西，而且是欺詐性的，你可以向某人申訴。

飛飛：這是一種很好的、沒有被劫持的信任。

馬克：

是的，你需要有，這是絕對必要的，你需要有它。

然後，第二階段是社交媒體公司。如果你要爲人們提供一個平臺來交換信息，即使只是從法律角度來看，第一修正案也不是絕對的。言論自由有11條法律豁免，包括煽動暴力、兒童色情和恐怖分子招募等等。所以，如果你要有一個在線通信平臺，你需要有一個團隊來維護、監控和管理它。但問題總是，好吧，你在哪裡劃清界限，那些價值觀是什麼？當你問這個問題時，你馬上就進入了政治哲學的領域，你處於設計和治理的領域。私人治理仍然是治理。

飛飛：

那麼你的底線是什麼？比如，您認爲哪些地方信任和安全最重要，哪些地方超出了您的界限？

馬克：

所以，我認爲，首先，它很複雜，而且部分原因在於很多。這些都是非常大的問題，總體而言，這些都是非常宏觀的問題。這些是政治結構的核心問題。這些是社會結構的大問題。這些都是重大的倫理和道德問題。所以這非常複雜。

具體到公司方面，情況就變得更加複雜，因爲公司至少在理論上是私人行爲者。而私人行爲者可以擁有比公共行爲者更受限制的領域。僅舉言論自由的例子，這個，這個，現在在我們的校園裡上演的一場大辯論，但簡單的例子就是言論自由。你可以在城鎮廣場自由地談論政治話題。這並不意味着有人可以在餐廳裡站起來，開始對別人大喊大叫。就像人們一樣，餐廳老闆有能力在餐廳環境中強制執行更嚴格的言論管制，比整個社會都更嚴格。公司也是一樣，公司有能力。

看，我有一個九歲的孩子，我想讓他能夠註冊互聯網服務。我希望他能擁有像迪士尼一樣的體驗，迪士尼樂園的體驗，而不是，看，我喜歡對所有人開放的互聯網。有一天，他也會喜歡對所有人開放的互聯網，但我希望他有牆花園，那種控制。所以我認爲公司有很大的自由度來決定這一點。再說一次，迪士尼的例子很好。迪士尼對迪士尼樂園內發生的行爲準則與奧蘭多街頭髮生的行爲準則不同。所以我認爲這些都是好的和有效的。

話雖如此，當你創建內部事務時，當你創建一支負責警務行動的警察部隊，然後很快又負責言論監管時，在某個時候，就會出現這樣的問題，比如，好吧，你要走多遠？這個議程會把你帶到哪裡？而且，我只是，我認爲，我認爲，我認爲，我認爲，再說一次，我認爲如果對此有多種觀點，那就很好。我認爲如果有很多不同的選擇，那就很好。如果你最終處於一種普遍審查、普遍控制的環境中，我認爲你就有真正的問題了。

飛飛:所以你想盡量減少政府監管。你還想盡量減少警察、自我監督的自治。

馬克：不，我沒有這麼說。我只是說了相反的話。我完全支持迪士尼有權決定迪士尼樂園的命運。

飛飛：我明白了。對。但是，即使我不是說迪士尼的指數過高，但也有超越的可能性。

馬克：對。

飛飛：那麼你認爲治理從何而來？

馬克：看，它必須來自，從根本上講必須來自領導層，這始終是一個領導層的問題。它必須在各個機構中。

飛飛：那社會呢？

馬克：是的。所以它必須通過（社會）。看，這些都是非常活躍的辯論，從社會層面一直到最高法院。而且還會有更多這樣的辯論。是的。然後看看公司內部。我會把它描述爲我們在這個行業中是趕上公共汽車的狗。我對這些平臺上發生的事情負有部分責任，這確實很重要。這些系統中發生的事情真的很重要。這些公司中發生的事情真的很重要。

看，我想說，如果這個行業被精簡爲兩三四家大公司，這些公司會獲得監管俘獲，我認爲這是他們正在嘗試做的事情。如果他們基本上與政府聯合起來，那麼我認爲我們必須處理一系列非常有力的社會層面問題。

如果在未來幾年存在競爭格局，有大公司，有很多初創公司，有開源，有學術界，這些領域之間存在某種活力和競爭，那麼我認爲，就會有更多的靈活性，更多不同的方法，我希望看到更多。我希望看到更多，比如說，風格和方法的多樣性。我認爲這實際上是一個非常健康的結果。

飛飛：

這就是你我完全同意的地方。

最後，你們來到斯坦福，你們的整個家庭都是朋友，也是社區的一部分。您對斯坦福高中和斯坦福大學有什麼希望和夢想？尤其是我們是世界領先的人工智能跨學科研究所，以人爲本的人工智能。您對我們和我們的角色有什麼希望和夢想？

馬克：

是的。所以首先說，看，就像您提到的那樣，感覺就像人工智能時代的曙光。這是一個有趣的概念，因爲衆所周知，人工智能實際上是一個有80年曆史的領域。

飛飛：是的，但我們已經經歷了這麼多冬天。我們走過了一條漫長而曲折的道路纔到達今天的位置。在座的各位可能都知道這一點。

馬克：

第一篇概述神經網絡理論的論文發表於1950年。不，是更早1943年。是Pitt和另一個人，我忘了他的名字。哇。觀衆中有大約80個人知道答案。所以最初的神經網絡論文是1943年。

所以實際上有一本很棒的書，Thomas Ridd寫了一本很棒的書，名爲《機器的崛起》，他在書中回顧並真正追溯了機器的起源。20世紀30年代，人們實際上曾爭論過計算機是否應該是馮·諾依曼機器（最終被稱爲馮·諾依曼機器），還是應該模仿人腦。這是一個有80、90年曆史的領域。上世紀80年代末我在學校的時候，那是在人工智能之後，上世紀80年代人工智能蓬勃發展。之後出現了一次大蕭條，即專家系統浪潮。所以，我覺得，我甚至不知道歷史上有先例可以孵化這麼長時間。然後，砰的一聲，結果證明它成功了。我不知道有多大的驚喜，也許你一直有信心。

飛飛：

我不知道，就像化學和物理學在現代科學出現之前就已經醞釀了幾百年一樣，但你是對的。你說得有道理。

馬克：

是的。所以，這是80年來的一次一夜成名，這真的是一件非常了不起的事情。所以，我之所以提起這件事，只是因爲斯坦福大學在每一步都發揮了作用。約翰·麥卡錫在這裡待了很長時間，斯坦福大學人工智能小組、斯坦福大學、麻省理工學院和其他幾所機構有着悠久而豐富的歷史，它們爲實現這一點做出了很大貢獻。所以這裡的遺產是巨大的。我完全希望在技術方面繼續這樣做。

我認爲，NLP課程學生現在是斯坦福大學本科生的四分之一嗎？

飛飛：

是的。NLP、計算機視覺，我們都有數百名學生。但我能問你，你認爲當我們甚至沒有GPU時，我們如何取得如此大的進步？

馬克：

所以，第一步，第一步，我們要確保有軟件可以在GPU上運行。

所以我想說，我希望斯坦福大學能夠捍衛知識自由、學術自由、實驗自由、創新自由、開發自由和部署自由。因爲我認爲這是絕對必要的。因爲如果像斯坦福大學這樣的機構不這樣做，在這樣的領域，我們就會陷入真正的麻煩。這是第一點。

然後第二點，我認爲這是一個政府絕對可以發揮作用的領域。這是我在華盛頓經常和他談論的話題。我只想說，看，我的整個職業生涯，你提到我的互聯網浪潮，我的整個職業生涯基本上都是政府資助的。是的。UIUC，超級計算機。

對於那些不知道的人來說，80年代有兩項大型政府資助法案，一項基本上是資助當時所謂的國家超級計算中心。另一項是資助所謂的NSF網絡，我們現在知道它是將每個人連接到超級計算機的互聯網。

而且，基本上我的職業生涯之所以存在，是因爲伊利諾伊州的NCSA基本上是由NSF資助的，這與我們現在的情況完全類似。當時的資金主要用於資助超級計算機，用於物理、化學和生物醫學研究。在這裡，顯然需要同時資助用於人工智能研究的大型系統。我認爲華盛頓特區對此的接受度實際上相當積極。我認爲我們應該對此持樂觀態度。但同樣，這假設我們將生活在一個人工智能研究真正被允許發生的世界。

飛飛：非常感謝，馬克。

馬克：謝謝。