第四範式戴文淵：人類理性邊界沒有突破前，AI沒有自主意識

近日，“AI 大神”、第四範式公司創始人、CEO 戴文淵做客格隆匯高端訪談《格隆博士會客廳》。

對於以 AI 爲代表的硅基生命，未來可能進化出認知能力、判斷能力甚至情感、慾望的擔憂，戴文淵表示，AI的表現其實最後都是人爲設定的目標導致的，而不是AI自己。

硅基生命其實並不知道貪婪、慾望叫什麼，它如果選擇做人們看來貪婪的事情，那是因爲選擇貪婪可以讓預測下一個字的準確率提升，源頭其實還是人設定了一個什麼樣的目標。

例如現在的推薦引擎會產生很多的“三俗”內容，這些“三俗”內容並不是 AI 自己喜歡“三俗”，所以也想給你推“三俗”，而是人設定了一個目標——讓網民看這個APP的時長儘可能地長。

然後AI發現推一些“三俗”的內容會讓用戶看得更久，最後它就帶來了這個結果，但其實這並不是AI的自主意識，它只是在非常理性地計算，幹什麼樣的事情對自己的目標是最好的。

就像大語言模型，它看起來好像在幹很多事情，但其實它幹所有事情就只有一個目標——預測下一個字的準確率，預測得儘可能的高。

雖然最近的20年AI技術日新月異，但此時此刻的理論其實並沒有突破上個世紀五六十年代以及七十年代所奠基的框架。

所以不能說未來AI不會進化到自己設定自己的目標，但至少在這個理論框架沒有得到突破之前，即便大模型訓練數據量、算力再增加幾個數量級，AI的目標仍然是人爲設定的。

因此相比於硅基和碳基的替代關係，大家可能更需關注的是，人設定的這個目標對於我們整個社會乃至整個世界是否有益。