加州州參議員斯科特·維納推動監管人工智能公司法案——彭博社

舊金山民主黨人、加州州參議員斯科特·維納在2024年1月舊金山舉行的彭博新能源財經峯會期間。

攝影師：大衞·保羅·莫里斯/彭博社在去年州長加文·紐瑟姆否決了一項要求大公司對其技術造成的損害承擔責任的立法後，一位加州議員正再次推動該州對人工智能進行監管。

舊金山民主黨人、州參議員斯科特·維納提出了一項法案，要求開發超過特定計算性能閾值的人工智能模型的公司公開發布安全和安保協議，以評估該技術對人類潛在的災難性風險。根據該法律，人工智能公司還需要向州總檢察長報告任何“重大安全事件”，例如敏感技術細節的盜竊。可能受到該立法提案影響的公司包括OpenAI、Alphabet旗下的谷歌和Anthropic。

這些全國首創的透明度要求是週二發佈的SB 53修正案的一部分，維納在今年早些時候提出了該法案。該立法包括對人工智能公司內部舉報人的保護，以及創建一個公共雲，為初創公司和學術研究人員提供低成本的計算能力訪問。

“隨着人工智能持續取得顯著進展，立法者必須與頂尖AI專家合作制定政策，在守護人工智能巨大潛在效益的同時防範實質性風險，”維納在為修正案發佈準備的講話中表示。“SB 53法案在促進創新與建立保障措施之間取得了恰當平衡，為近年來最非凡的新技術構建了信任、公平和問責的框架。”

這項提案要求出台之際，美國參議院剛否決了禁止各州對快速發展的AI領域立法的動議。維納在早期嘗試失敗後仍堅持推動監管，表明AI監管持續成為立法者關注焦點，他們聲稱要保護公眾免受該技術潛在的毀滅性危害。

維納此前起草的AI監管法案SB 1047曾引發部分AI公司、科技行業領袖和硅谷風險投資人的強烈反對，因其要求企業對技術造成的災難性人身傷害承擔責任。儘管SB 1047在加州議會獲得通過，但最終被州長紐森否決，理由是該法案負擔過重。

雖然SB 53法案包含透明度要求，並規定企業未披露重大安全事件將面臨處罰，但未納入SB 1047中的責任條款。

紐瑟姆在否決SB 1047法案後成立了一個關於人工智能前沿模型的工作組。該小組由知名AI研究者李飛飛（曾反對去年的立法）等成員組成，負責為加州制定政策指南。維納提出的SB 53法案中關於透明度要求的新措辭，與該工作組近期報告中的廣泛建議相呼應。該工作組並未提出任何具體立法建議。

目前，Meta Platforms Inc.、谷歌、OpenAI和Anthropic等公司已定期發佈其模型的安全指南；SB 53法案旨在將這些程序規範化和標準化。

修正後的法案預計將於本月晚些時候提交加州議會委員會審議。維納稱其為"進行中的工作"，並表示未來幾周將與利益相關方商討以完善提案。