爭議不休 加州州長否決AI監管法案

美國頗具爭議性的生成式AI監管法案，儘管獲得學界支持，然而科技巨頭強烈反對。圖／freepik

美國頗具爭議性的生成式AI監管法案，儘管獲得學界支持，然而在OpenAI、Meta等科技巨頭強烈反對下，法案在29日遭加州州長紐森（Gavin Newsom）否決，象徵這項技術在近期內的發展，暫時不受限制。

紐森表示，該項法案「未考慮AI系統是否部署在高風險環境中，或是否涉及關鍵決策或使用敏感數據，且即便是最基本功能的大型模型，也得套用嚴格的標準。」

編號SB 1047的法案規定，AI模型的開發者須確保其技術不會成爲「足以造成嚴重損害的不合理風險」，也就是造成至少5億美元財損或大規模傷亡的網路攻擊。此外，法案還規定開發人員須確保AI出現危險行爲時，得以被人類關閉。

法案也規定無論企業總部位於何處，只要在加州執行業務，都受到法案限制。而加州爲AI企業重鎮，若法案通過，將成爲全美、甚至是全球的指標性法案。

法案適用對象爲一定運算能力、訓練成本至少爲1億美元的AI模型，條件相當於OpenAI最大模型GPT-4的估計成本。然而，較大的模型通常會處理像是客服等低風險活動，較小的模型反而容易涉及電網和醫療記錄等敏感資料。

Google、Meta、微軟以及 OpenAI等巨頭認爲，法案以安全爲名義增加模糊的標準；也有許多小公司加入反對行列，認爲法案將導致大型開發商停止模型開源，進一步破壞這塊仰賴開放和創新的產業生態。

科技公司則認爲，法案所稱的「不合理風險」成爲法律陷阱。矽谷創投公司Andreessen Horowitz負責AI投資的合夥人卡薩多（Martin Casado）說：「沒有人知道這是什麼意思，所以是將問題留給非技術專業的法庭。」

「AI教父」辛頓（Geoffrey Hinton）和班吉歐（Yoshua Bengio）是法案堅定的支持者。業界也有不同聲音，另一AI開發公司Anthropic認爲獲利大於成本，不過仍然對法案部分定義存疑；xAI負責人馬斯克8月時表示，加州可能應該通過該項法案。