加利福尼亞州議會通過有爭議的人工智能安全法案SB 1047 - 彭博社

加利福尼亞州的州議會批准了一項有爭議的人工智能安全法案，要求公司確保其技術不會造成重大傷害。

該法案SB 1047受到了多位國家人物的批評和讚揚。它現在將返回州參議院進行確認投票和可能的修正，然後再提交給州長加文·紐森。該法案在州議會以41票贊成和9票反對通過。

SB 1047要求開發強大AI模型的公司採取“合理的注意”，確保其技術不會造成“嚴重傷害”，例如大規模傷亡或超過5億美元的財產損失。該法案由州參議員斯科特·維納提出，並於5月在州參議院通過，要求公司採取預防措施，例如實施一個可以隨時關閉其技術的緊急停止開關。它還要求將模型提交給第三方測試，以確保它們在降低重大風險方面的有效性。

此外，該法案將為希望分享安全問題的AI公司員工創建舉報人保護。未遵守該法案的公司可能會被加利福尼亞州檢察長起訴。

維納在一份聲明中表示：“創新和安全可以並存——加利福尼亞州正在引領潮流。”他還表示：“通過這次投票，議會採取了真正歷史性的步驟，積極確保這一令人興奮的新技術在發展過程中保護公眾利益。”他還稱該法案為“輕觸式、常識性措施”，將許多大型公司已經做出的安全承諾法典化。

在過去幾個月中，該法案遭到了許多主要科技領袖、初創公司和風險投資家的激烈反對，他們表示這代表了政府對仍處於初期階段的技術的過度干預，並可能抑制該州的科技創新。上週，OpenAI公開表達了對該法案的反對，認為這樣的政策應該在聯邦層面而不是州層面實施。

包括前眾議院議長南希·佩洛西、美國眾議員羅·卡納、舊金山市長倫敦·布里德等政治人物也對該法案表示反對，呼應了科技行業的擔憂，認為這可能會妨礙加州在人工智能創新方面的領導地位。

但在投票前的最後階段，該法案也獲得了一些人工智能領域主要人物的支持。週二，埃隆·馬斯克意外地表示支持，儘管他説這是一個“艱難的決定，會讓一些人感到不滿。”OpenAI的競爭對手Anthropic，以安全導向著稱，也謹慎地支持該法案，上週表示“好處可能超過成本”，並且可以切實實施相關條款。在維納實施了該公司建議的幾項修正案後，Anthropic對該立法的支持程度有所增加。

維納為該法案辯護，強調其條款僅適用於在訓練大型模型上花費超過1億美元或在微調模型上花費超過1000萬美元的公司，這將使大多數小型初創公司免受影響。這位立法者還表示，雖然他會支持聯邦立法，但國會在監管科技方面歷來反應緩慢，在缺乏國家行動的情況下，他認為加州有責任引領。

關於SB 1047的爭鬥將繼續，因為該法案正在送往紐瑟姆的辦公桌。OpenAI、科技孵化器Y Combinator和風險投資公司Andreessen Horowitz——SB 1047的批評者——都有註冊的遊説者在處理該法案。