美國爭議AI大模型安全法遭否決！加州州長害怕AI公司被趕走

智東西編譯 尹明順編輯 漠影

智東西9月30日消息，據路透社報道，美國加利福尼亞州參議員（Scott Wiene）於今年2月7日擬定的《SB-1047前沿AI大模型安全創新法案》（簡稱SB-1047法案）於今日凌晨，被加州州長Gavin Newsom徹底否決。其認爲，該法案可能會將AI公司趕出加州，並對科技創新造成阻礙。

據悉，SB-1047法案主要用於增強大模型安全性、透明性、完善AI使用規範條例，該法案一經提出就引發極大爭議。

法案要求對許多最先進的AI模型進行安全測試，這些模型的開發成本超過1億美元，需要特定數量的計算能力。此外，法案還將通過設立一個州級機構，負責監督所謂“前沿模型”的開發。

對此，多家科技公司對SB-1047法案都表達了抗拒態度。Meta認爲該法案有可能對AI在加州的開發和部署產生不利作用。Facebook母公司的首席科學家Yann LeCun曾在社交媒體X的一篇帖子中稱該法案可能對研究工作產生負面影響。

OpenAI的ChatGPT也認爲AI應該由聯邦政府監管，但SB-1047創造了一個充滿不確定的法律環境。它認爲該法案將對AI發展構成威脅，並可能導致企業家和工程師離開該州。

一、AI發展迅速，SB-1047法案提出利弊交加

生成式AI可以根據提示創建文本、照片和視頻，這令人興奮，也讓人擔憂。因爲AI的使用可能會使得一些工作崗位不那麼被需要，會對選舉造成顛覆性影響，還可能在某些方面因超越人類而造成災難性影響。

Wiener稱，在AI的發展變得難以駕馭或無法控制之前，有必要通過立法來保護公衆。

但一些領導人對此發出了質疑，如今AI產業在加利福尼亞州快速發展，如果該法案通過，確立爲正式法律條例，可能會使那些AI公司在該州未來的發展受到影響。

Newsom認爲：“我們不能等到發生重大災難後才採取行動來保護公衆”，但他同樣覺得，該法案目前尚待完善，將其正式立法可能會對AI公司在加州的發展造成阻力，不利於科技創新。

▲美國加州州長Gavin Newsom（圖源：X平臺個人社交帳號）

科技行業聯盟“進步商會”（Chamber of Progress）對Newsom的否決意見表達了讚賞，稱“加利福尼亞州的科技與經濟一直依賴於競爭和開放的環境才得以蓬勃發展。”

對於Newsom的否決，Wiener迴應稱，此行會使得加利福尼亞州的安全性降低，這意味着“那些想要創造極其強大技術的公司不會面臨任何強制性限制”。他補充說：“行業的自願承諾是缺少執行性的，對公衆來說幾乎沒什麼好結果。”

二、SB-1047“BUG”衆多，急需打造AI風險科學分析體系

Newsom出面徹底否決了該法案，除去認爲該法案不利科技創新與AI發展外，他還給出了這樣的一個原因：“我並不認爲我們應該遵循那些沒有基於AI系統和能力的實際發展軌跡進行實證分析所得出的解決方案。”

他補充道，該法案沒有考慮到AI模型是否部署在高風險環境中。這一點很關鍵，因爲在低風險環境中並不需要如此嚴格的監管措施。

另外，Newsom還解釋稱，法案對於AI對關鍵決策的影響也未進行說明，也沒有定義何爲敏感數據。這一點的模糊界定會使得法案難以對隱私以及數據進行有效保護。

Newsom稱自己已經請了生成式AI的領先專家幫助加州開發“護欄”，並將專注於開發一種基於經驗與科學的AI軌跡分析模型。他還命令美國各州機構完善對與AI使用相關的潛在災難性事件的風險評估體系。

此處的護欄，意指一套機制或者系統，主要是用於保護技術使用安全並預防可能存在的風險。而AI軌跡分析模型，則是對AI未來發展路徑進行預測的一種科學分析手段。

Newsom還簽署了另一項法案，要求該州評估生成式AI對加利福尼亞州關鍵基礎設施構成的潛在威脅。

Newsom說，他將在下一屆立法會議期間與立法機構合作，推動AI立法。

這一行動恰好發生在這樣一個時刻，美國國會關於設立人AI保障措施的立法工作陷入了停滯狀態，而與此同時，拜登政府正在積極推動關於人工智能監管監督的提案。

結語：SB-1047法案在過去的半年裡爭議良多

衆多團體強烈反對SB-1047法案的提出與落實。其中包括谷歌（旗下的Alphabet）、微軟支持的OpenAI和Meta Platforms在內的公司都在開發生成式AI模型，它們都對該提案表達了擔憂。衆議院議長南希·佩洛西（Nancy Pelosi）在內的一些美國國會民主黨人也反對過該法案。

但該法案也有很多的支持者，其中包括特斯拉首席執行官埃隆·馬斯克（Elon Musk），他經營着一家名爲xAI的AI公司。亞馬遜支持的Anthropic認爲，該法案的益處可能大於成本，但也補充說，仍有一些方面含混不清，令人擔憂。

來源：路透社、X