2024年8月28日（優分析產業數據中心）— 本週，加州立法機構即將對一項旨在廣泛監管人工智慧（AI）開發和部署的法案進行投票。儘管科技公司普遍支持對AI進行更強的監管，但目前為止，多家矽谷的科技巨頭對這項法案表達了強烈反對，尤其是那些在AI模型佔有領先地位的公司。
法案內容：SB 1047的要求
由加州州參議員斯科特·維納（Scott Wiener）提出的這項法案，編號SB 1047，規定對於開發成本超過1億美元或需要大量計算能力的高級AI模型，必須進行安全測試。法案還要求AI開發者必須制定關閉系統的機制，以防止AI失控，並賦予州檢察長起訴不合規開發者的權力，特別是在AI威脅政府系統（如電網）的情況下。
除此之外，法案還要求開發者聘請第三方審計員評估其安全措施，並為揭發AI濫用行為的吹哨人提供保護。
立法者的態度：反對與支持並存
SB 1047已經以32票贊成、1票反對的壓倒性優勢通過了加州參議院。該法案早些時候通過了州眾議院的撥款委員會，並將於8月31日進行全體表決。如果法案獲得通過，將送交州長加文·紐森（Gavin Newsom）審批，紐森需在9月30日之前簽署或否決法案。
然而，該法案也遭到了一些來自加州國會民主黨議員的反對，其中包括南希·佩洛西（Nancy Pelosi）、代表硅谷大部分地區的羅·卡納（Ro Khanna）和聖何塞的佐伊·洛夫格倫（Zoe Lofgren）。
佩洛西認為SB 1047法案欠缺考量，可能會帶來更多負面影響。在一封公開信中，這些民主黨議員表示，該法案可能會迫使開發者離開加州，並威脅到所謂的開源AI模型的發展。
科技領袖的意見：矽谷的分歧
雖然科技公司普遍認為應該對AI的部署進行更嚴格的監管，以防止未來可能出現的網路攻擊等風險，但他們對SB 1047法案的部分條款表示擔憂。
加州州參議員維納曾為滿足科技公司的要求而對法案進行修改，其中包括取消成立政府AI監督委員會的計劃，並刪除了涉及偽證的刑事處罰。然而，這些修改並未完全消除矽谷的顧慮。
部分科技公司和領袖，如伊隆馬斯克（Elon Musk）和AI初創公司Anthropic，對修改後的法案表示支持。Anthropic曾表示，其對法案可能阻礙創新的擔憂已「大大減少」，認為其好處可能超過成本。然而，谷歌母公司Alphabet和Meta則對此表示反對，認為該法案可能使加州成為不利於AI開發和部署的地區。
OpenAI則認為，AI應由聯邦政府來監管，而SB 1047法案則可能創造出一個不確定的法律環境，可能會對AI的發展造成威脅。特別是對於開放源代碼AI模型，OpenAI和其他技術公司擔心他們可能會被要求為這些模型的行為負責。
儘管如此，該法案也得到了部分技術專家的支持，包括被譽為「AI之父」的杰弗里·辛頓（Geoffrey Hinton）、前OpenAI員工丹尼爾·科科塔伊洛（Daniel Kokotajlo）和研究員約書亞·本吉奧（Yoshua Bengio）。
