最後時刻，美國AI監管“里程碑”法案被否決了！

財聯社9月30日訊（編輯 黃君芝）據報道，美國人工智能（AI）監管“里程碑”，在最後一刻被美國加利福尼亞州州長紐森（Gavin Newsom）否決了。這項名爲SB 1047的法案此前被認爲是美國最全面的AI安全管理政策之一。

“SB 1047法案”，全稱“前沿人工智能模型安全創新法案”。該法案是首批要求AI開發人員對其技術造成的任何嚴重損害負責的法案之一。該法案於今年2月被提交給加州議會，引起很大爭議。8月19日，加州立法機構公佈了法案修訂版。

紐森稱這項立法是“善意的”，但他在一份聲明中表示，它將“對最基本的功能實施嚴格的標準”。他說，監管應該基於“經驗證據和科學”，並指出他自己簽署的關於人工智能的行政命令和監管該技術的其他法案，這些法案圍繞已知風險（如深度造假）對技術進行監管。

提出該法案的加州民主黨參議員Scott Wiener稱，紐森的否決“對所有相信監管大公司的人來說都是一個挫折”。他在X上發帖稱，“結果我們都不那麼安全了。”

何爲SB 1047？

SB 1047法案旨在爲訓練成本超過1億美元或者達到一定算力的開發者制定安全標準，確保人工智能大模型的安全開發。該法案要求大型前沿人工智能模型的開發者採取預防措施，例如部署前測試、模擬黑客攻擊、安裝網絡安全保障，以及爲舉報人提供保護等。

這是爲了確保他們的技術不會造成“嚴重傷害”，比如大規模人員傷亡或5億美元以上的財產損失。另外，在該州運營的人工智能軟件開發商還需要概述在人工智能模型出現問題時關閉它們的方法，這實際上是一個“強行終止開關”。

此外，該法案還賦予州檢察長在開發商不遵守規定時提起訴訟的權力，特別是在出現持續威脅的情況下，例如人工智能接管電網等政府系統；該法案還要求開發商聘請第三方審計師來評估他們的安全實踐，併爲舉報人工智能濫用行爲的舉報人提供額外保護。

爭議頻頻

在過去的幾個月裡，該法案遭到了許多主要科技領袖、初創公司和風險投資家的強烈反對。他們表示，這代表着政府對一項仍處於起步階段的技術的過度關注，可能會扼殺該州的科技創新，並將人工智能公司趕出該州。

“人工智能革命纔剛剛開始，加州作爲全球人工智能領導者的獨特地位正在推動該州的經濟活力，”OpenAI首席戰略官Jason Kwon上個月在一封反對該立法的信中寫道：“SB 1047法案將威脅到這種增長，減緩創新的步伐，並導致加州世界級的工程師和企業家離開加州，到其他地方尋找更大的機會。”

OpenAI認爲這樣的政策應該在聯邦而不是州一級實施。紐森最近則表示，他擔心該法案可能會對人工智能發展產生“寒蟬效應”。

包括前衆議院議長南希·佩洛西（Nancy Pelosi）、美國衆議員Ro Khanna、舊金山市長London Breed等政界人士也對該法案表示反對，這與科技行業的擔憂相呼應，即該法案可能會阻礙加州在人工智能創新方面的領導地位。

但該法案也贏得了人工智能領域一些主要企業的支持。例如，埃隆·馬斯克出人意料地表達了他的支持，儘管他說這是一個“艱難的決定，會讓一些人感到不安”。

參議員Wiener則針對批評人士爲該法案進行了辯護，強調其條款僅適用於成本超過1億美元的大型模型訓練公司，這將豁免大多數較小的初創公司。

這位議員還表示，雖然他會支持聯邦立法，但國會在監管科技方面一直行動遲緩，在缺乏國家行動的情況下，他認爲加州有責任發揮領導作用。