“人工智能教父”約書亞·本吉奧：驚言或成真！
不管您覺得人工智能會拯救世界還是終結世界——毫無疑問，我們正處在一個熱情高漲的時刻。
被稱爲“人工智能教父”的本吉奧，今年 60 歲，是一位加拿大的計算機科學家，一直致力於神經網絡和深度學習算法的研究。
“智能會賦予力量，而不管是誰控制了這種力量——要是它達到或者超過人類水平——都會變得極其強大，”本吉奧在接受雅虎財經採訪時表示。“一般來講，技術會被那些想要更多權力的人利用，比如謀求經濟主導地位、軍事主導地位、政治主導地位。所以在我們創造出可能以危險方式集中權力的技術之前，得特別小心。”
2018 年，本吉奧和兩位同事——前谷歌（GOOG）副總裁傑弗裡·辛頓（Geoffrey Hinton，他是 2024 年諾貝爾物理學獎得主），還有 Meta（META）的首席人工智能科學家楊立昆（Yann LeCun）——獲得了圖靈獎，這獎也被稱爲計算機領域的諾貝爾獎。2022 年，本吉奧是世界上被引用最多的計算機科學家。《時代》雜誌將他評爲世界上100 位最具影響力的人物之一。
儘管助力發明了這項技術，本吉奧如今已成爲人工智能領域發出謹慎聲音的人。這種謹慎是在投資者繼續對該領域表現出極大熱情，並將人工智能相關股票推高至今年的新紀錄之際出現的。
例如，人工智能芯片寵兒英偉達（NVDA）的股票今年迄今上漲了 172%，而標準普爾 500 指數（^GSPC）上漲了 21%。
據雅虎財經的數據顯示，該公司當下的估值達到了令人震驚的 3.25 萬億美元，在全球最具價值公司的頭銜競爭中，其稍遜於蘋果（AAPL）。
我就人工智能可能產生的威脅以及哪些科技公司的做法是正確的這兩個方面，採訪了本吉奧。
此次採訪在長度和清晰度方面進行了編輯。
亞斯明·霍拉姆：爲什麼我們應該關注人類水平的人工智能？
約書亞·本吉奧：要是這落入了壞人的手中，不管這到底意味着啥，那或許會極其危險。這些工具很快就能幫助恐怖分子，也能幫助那些希望破壞我們民主制度的國家行爲體。還有許多科學家一直指出的一個問題，那便是我們當下訓練它們的方式——我們不明白怎樣去避免這些系統變得自主且擁有自己的保存目標，我們或許會失去對這些系統的掌控。所以啊，我們有可能正在造就比我們還要強大的怪物。
OpenAI、Meta、谷歌、亞馬遜——哪個大型人工智能參與者做對了？
從道德層面來說，我覺得表現最佳的公司是 Anthropic[其主要投資方包含亞馬遜（AMZN）和谷歌（GOOG）]。但我認爲它們都存在偏見，這是因爲它們的生存依賴於處在領先公司的行列之中，理想狀況下是率先達成通用人工智能（AGI）的那種經濟結構。這意味着一場競賽——企業之間的軍備競賽，而公共安全很可能成爲失敗的目標。
Anthropic 給出了衆多跡象，表明他們極爲關心避免出現災難性的結果。他們是首家提出安全政策的公司，承諾要是人工智能最終具備了可能存在危險的能力，那麼他們就會停止這一努力。他們也是和埃隆·馬斯克一起，唯一支持[加利福尼亞的人工智能監管法案]SB 1047的一方。換句話說，他們說：“是的，經過一些改進，我們同意在安全程序、結果和造成重大損害的責任方面提高透明度。”
對像英偉達這樣的人工智能股票的大幅上漲有何看法？
我認爲非常確定的是其長期的發展軌跡。所以如果您是做長期投資，這算是一個相當穩妥的選擇。除非我們沒法保護公衆，......[那麼]可能出現的反應或許是一切都會垮掉，對吧？要麼是因爲社會對人工智能普遍產生強烈抵制，要麼是因爲真的發生了災難性的事情，我們的經濟結構崩潰。
對 AI 芯片競賽的看法？
我認爲芯片顯然已成爲難題中的重要一環，當然，它也是個瓶頸。在未來幾年我所能預見到的各類事件和科學進步中，對大量計算的需求很可能不會消失，因此擁有高端 AI 芯片能力將具有戰略價值——供應鏈中的所有環節都很重要。目前能夠做好這件事的公司很少，所以我預計會有更多的投資，希望能有一些多元化。
您對 Salesforce 到 2026 年推出 10 億個自主代理有何看法？
自主性是這些公司的目標之一，從經濟角度來看這是一個很好的理由。在商業上，就其開啓的應用數量而言，這將是一個巨大的突破。想想所有的個人助理應用程序。它需要比當前最先進的系統所能提供的更多的自主性。所以可以理解他們會瞄準這樣的目標。但 Salesforce（CRM）認爲他們能在兩年內達成這一目標，於我而言，這令人擔憂。在這之前，我們需要在政府和技術方面都設置防護欄。
加州州長紐瑟姆否決了加州的 SB 1047 法案。這是個錯誤嗎？
他沒給我能說得通的理由，像不僅要監管大型系統，還要監管所有小型系統。......有可能事情會發展得很快——我們說的是幾年的時間。也許即便可能性很小，比如 10%（災難發生的概率），我們也得做好準備。我們需要有監管。我們需要讓公司已經開始以一種在整個行業都保持一致的方式記錄他們正在做的事情。
另一件事是公司擔心訴訟。我和很多這樣的公司談過，但已經有侵權法了，所以如果他們造成了傷害，隨時都可能有訴訟。而該法案在責任方面做的是縮小訴訟範圍。......有 10 個條件。你得滿足所有這些條件，法律纔會支持訴訟。所以我認爲這實際上是有幫助的。但存在一種意識形態上的抵制，反對任何干預——任何不是現狀的情況，任何國家對這些人工智能實驗室事務的更多介入。