加州AI法案引爭議，李飛飛、吳恩達、本吉奧、辛頓意見不一

美國加州已成人工智能監管鬥爭焦點。日前，美國人工智能初創企業、科技巨頭、學術界聯合反對加州安全法案SB-1047（《前沿人工智能模型安全創新法案》），認爲該法案將使得AI創新冷卻，但支持者認爲對AI的監管比對理髮店的監管更少。

8月6日，“AI教母”李飛飛在社交媒體上表示，雖然這項法案本意是好的，但它不僅很難達到它的目的，還會深深傷害人工智能學術界、開源社區等。李飛飛表示，人工智能是一項文明技術，將對每個人產生深遠的影響。人工智能政策必須鼓勵創新，設置適當限制，並減輕這些限制的影響；否則，最好的結果是達不到目標，最壞的情況下是導致可怕甚至是意想不到的後果。

但傑弗裡·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)等計算機科學研究人員以及法律學者共同簽署了一封致加州州長的信，支持SB-1047法案。信中說，“廢除這項法案的基本措施將是一個歷史性的錯誤，在一年內，當下一代更強大的人工智能系統發佈時，這個錯誤將變得更加明顯。”他們將法案描述爲“對這項技術進行有效監管的最低限度”。

法案或阻礙創新生態

SB-1047法案已提交州立法機構，在加州參議院和兩個州議會委員會獲得通過，幾乎沒有遭到反對意見。該法案要求人工智能大模型的開發人員進行安全測試，以降低AI技術造成“災難性傷害”的風險。所謂的災難性傷害，法案將其定義爲造成至少5億美元損失或大規模人員傷亡的網絡攻擊。

法案適用於達到一定計算能力且訓練成本超過1億美元的人工智能模型。無論公司總部在哪裡，只要在加州開展業務，都被涵蓋在監管範圍內。李飛飛說，這種閾值的設定是武斷的，這一措施非但不會提供保障，只會限制包括學術界在內的各個部門的創新。“今天，學術領域的人工智能模型低於這一門檻，但如果我們要重新平衡私營和公共部門人工智能的投資，學術界將受到SB-1047的監管。我們的人工智能生態系統將因此變得更糟。”

法案要求，開發人員必須確保人工智能在開始有危險行爲時可以被人類關閉。今年7月，著名AI學者吳恩達（Andrew Ng）表示，他對SB-1047法案深感擔憂，法案可能會使人工智能大模型的構建者承擔責任，如果該法案以目前的形式通過，它將扼殺人工智能模型構建者，尤其是開源開發者。

深度學習大牛、紐約大學教授、Meta首席科學家楊立昆（Yann LeCun）表示，監管機構應該監管應用，而不是技術，規範基礎技術會阻礙創新。讓技術開發人員爲不良使用承擔責任，只會阻止技術發展。最奇怪的是，所有這些規定都是基於完全假設的科幻小說場景。楊立昆認爲，這些監管將殺死整個人工智能生態系統，“不僅僅是初創公司，還有學術研究。”

SB-1047也受到了產業界的強烈抵制。“如果它按照書面規定生效，將對加州的創新產生寒蟬效應。”創業加速器Y Combinator公共政策主管盧瑟·洛威（Luther Lowe）說。Meta和OpenAI也對該法案提出了擔憂，谷歌、微軟和Anthropic則提出了冗長的修正案。

反對者說，該法案沒有具體規定這些測試應該是什麼，也沒有規定由誰組成一個新的委員會來監督遵守情況。微軟在概述對該法案的反對意見信中表示，支撐該法案監管架構的基本要素尚未到位，有可能導致投資錯位、產生誤導性結果，以及錯失集中資源的機會。

反對者的另一個擔憂是，如果存在不合理的風險，可能導致或造成嚴重傷害，該法案將禁止發佈人工智能大模型。“這個模糊的標準創造了一個法律雷區。”風險投資公司安德森·霍洛維茨（Andreessen Horowitz）的合夥人安妮·米德哈（Anjney Midha）表示，“目前的技術根本無法保證不會出現這些假設的情況。”米德哈認爲，該法案將阻止大型開發商向公衆提供模型，從而破壞依賴這種開放性進行創新的生態系統。

加州是許多人工智能創新的發源地。吳恩達說，他擔心這個反競爭、反創新的提案在立法機構中得到了如此多的關注。“更糟糕的是，其他司法管轄區經常效仿加州，如果他們在這種情況下這樣做，那將是可怕的。”

對AI的監管比理髮店少

“我並不反對人工智能治理。”李飛飛在署名文章中表示，過去一年與美國總統拜登的多次對話中，她表達了需要一種“登月計劃”的心態來刺激美國人工智能教育、研究和發展。“然而，SB-1047的限制過於武斷，不僅會使加州的人工智能生態系統降溫，還會對整個國家的人工智能產生令人不安的下游影響。”

但舊金山民主黨州參議員斯科特·維納（Scott Wiener）表示正與科技行業接觸，對改革持開放態度。“科技行業有些人反對任何形式的監管，不管它是什麼，即使是合理的、寬鬆的監管。”維納認爲，該法案只是將該行業制定的安全標準編纂成法律，“這並不是過分的規定。”

傑弗裡·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)等計算機科學研究人員以及法律學者共同簽署了一封致加州州長的信，支持SB-1047法案，否認該法案會阻礙創新的說法，並指出按照書面規定，該法案只適用於最大的人工智能模型。信中說，“廢除這項法案的基本措施將是一個歷史性的錯誤，在一年內，當下一代更強大的人工智能系統發佈時，這個錯誤將變得更加明顯。”他們將法案描述爲“對這項技術進行有效監管的最低限度”，“相對於我們面臨的風險規模，這是一項非常寬鬆的立法。”

本吉奧和辛頓都是圖靈獎獲得者，與楊立昆同被稱爲“人工智能教父”。“對可能帶來災難性風險的人工智能系統的監管比對三明治店或理髮店的監管要少。”信中說，“作爲最瞭解這些系統的一些專家，我們可以自信地說，這些風險是可能的而且是足夠重要的，需要進行安全測試和常識性預防措施。”

“我擔心，科技公司在爭奪市場份額和利潤最大化的過程中，無法獨自解決這些重大風險。這就是爲什麼我們需要爲那些處於這場競賽前沿的人制定一些規則。”本吉奧說。

上個月在接受Vox採訪時，維納說，該法案已經被修改，以迴應來自開源社區的批評。當前版本免除了原始開發人員在模型不再受其控制時的關閉要求，並且當其他人對其模型進行重大修改時限制了原始開發人員的責任，將重大修改版本視爲新模型。

在華盛頓，從美國範圍內監管人工智能的提議幾乎沒有取得進展。但科羅拉多州和猶他州最近通過了美國首批人工智能監管法律，監管範圍比加州SB-1047法案更窄。倡導對人工智能模型訓練數據進行監管的非營利組織透明度聯盟(Transparency Coalition)稱，目前美國各州立法機構正在審議大約400項與人工智能相關的法案。加州立法機構大約有30項法案正處於不同階段，其目標包括從保護知識產權到擴大兒童色情的定義，將人工智能生成的圖像包括在內。