硅谷對加利福尼亞州的一項人工智能法案保持警惕 - 彭博社
Shirin Ghaffary
薩克拉門託的加利福尼亞州議會大廈。
攝影師：David Paul Morris/Bloomberg科技界正在對一項新提出的法案感到憤怒。但首先…
三件事情要知道：
• 美國反壟斷機構正準備調查微軟和英偉達的人工智能舉措• 蘋果與Sam Altman達成了一項曾經不太可能的交易，以趕上人工智能• Humane告訴客户停止使用Ai Pin手機殼，因為存在火災風險
一場政治鬥爭
硅谷的風險投資家、科技創始人和普通員工對一項正在加利福尼亞立法機構中推進的法案發出警報，該法案可能迫使一些最大的人工智能公司改變其運營方式。由加利福尼亞州參議員斯科特·維納提出的SB 1047旨在實施他辦公室所稱的“常識安全標準”，適用於製造大型人工智能模型的公司，這些模型超過特定規模和成本門檻。該法案上個月在州參議院通過，將要求這些公司採取措施防止其模型造成“重大傷害”；確保人工智能系統可以關閉；並向加利福尼亞技術部門內設立的新“前沿模型部門”披露合規努力。如果企業不遵守這些要求，他們可能會被起訴並面臨民事處罰。在缺乏關於人工智能的聯邦立法的情況下，美國各州越來越傾向於推動自己的監管。鑑於加利福尼亞州是許多領先人工智能公司的所在地，包括OpenAI和Anthropic，其立法可能在這些企業的任何直接影響以及在國家政策提案制定方面具有更大的影響力。“如果國會能夠出台一項合理而有力的人工智能和創新安全法律，那將是很好的，”維納在本週的一次採訪中告訴我。“我更希望這些問題在聯邦層面得到處理。但正如我們在數據隱私、社交媒體、網絡中立性甚至在具有強有力兩黨支持的技術問題上所看到的，國會很難甚至有時不可能採取行動。”
加利福尼亞州民主黨參議員斯科特·維納。攝影師：大衞·保羅·莫里斯/彭博社這項法案得到了兩位人工智能先驅 Geoffrey Hinton 和 Yoshua Bengio 的支持，他們一直對人工智能可能存在的生存威脅發表看法。辛頓表示，這項立法“採取了非常明智的方法來平衡這些擔憂。” 但它也引起了重大的抵制，預示着如果國會推動更嚴格的立法，可能會在全國範圍內出現的攻擊立場。批評者擔心這項法案可能給開發者帶來不可能承擔的負擔 — 尤其是開源開發者，他們提供代碼供任何人審查和修改 — 以確保他們的服務不被不良分子濫用。這一陣營也對前沿模型部門的潛在過度擴張感到擔憂。
“沒有人預料到會通過這樣的事情。這似乎相當荒謬，”開源初創公司 Reworkd AI 的創始工程師羅漢·潘迪説。“也許幾年後，一旦我們瞭解了什麼使模型安全或不安全，監管可能會有意義。但 GPT-4 剛剛問世一年多。很快就立法是不明智的。”幾周前，約 20 名工程師、創始人和研究人員在舊金山的 AGI 黑客之家聚集在一起 — 這是一個專注於加速人工智能發展的場所 — 討論了這項法案，據組織這次聚會的潘迪説。技術投資公司 Andreessen Horowitz 的普通合夥人馬丁·卡薩多告訴我，一些初創公司創始人非常擔心這項法案，他們問他們是否因此應該離開加利福尼亞。收聽彭博社的新的、五集播客*關於山姆·奧特曼和 OpenAI。在這個系列中，記者艾倫·休特探討了奧特曼的崛起，並深入探討了他的值得信賴程度的問題。*技術工作者在 GitHub 舊金山總部的一次市政廳活動上向維納提出了有關該法案的尖鋭問題。 （GitHub 表示不對該立法提出立場。）幾家主要的科技行業 協會 也對這項法案表示反對。
在創業社區中，很多爭論歸結為對AI開發者是否應對濫用其系統的人負責的基本分歧。根據1996年《通信廉正法》第230條款，社交媒體公司通常不會對用户在其平台上創建的內容承擔責任。目前尚不清楚這些保護是否適用於生成式AI平台。“我個人希望看到的是，我們對濫用情況和不良用户進行監管，而不是對那些本着善意行事的開發者和研究人員進行監管，”企業技術初創公司Zapier的聯合創始人兼AI負責人Mike Knoop説。Wiener表示，他已經針對一些這些擔憂做出了修改。他修改了法案覆蓋的模型要求，澄清了開源開發者不必對其技術的所有負面應用負責，並明確指出關閉要求不適用於開源模型。Wiener表示，他願意進行更多調整。“我是AI的堅定支持者。我是開源的堅定支持者。我絕不希望以任何方式阻礙創新，”Wiener告訴我。“但我認為，在這些發展發生時，人們要注意安全問題。”隨着法案開始推進，Wiener表示，堅定的AI支持者在網上“開始變得非常響亮”，有時傳播一些高度具有煽動性和不準確的信息。特別是，Wiener駁斥了公司將被要求從政府機構獲得訓練模型許可的説法，並強調法案中的責任風險“非常狹窄”。Casado表示，他對該法案的主要問題是起草過程。他説，這涉及到一些對AI對人類長期風險持悲觀擔憂的“有些邊緣”的人的意見，這在他看來並不代表科技行業的共識。AI安全中心是三個贊助該法案的組織之一，這家總部位於舊金山的非營利機構已經發表了關於AI災難風險的研究。Wiener表示，該法案源於他在過去18個月與AI行業內部人士舉行的“一系列晚宴、沙龍和會議”。他説，他的辦公室已經與OpenAI、Meta、Google、Microsoft和Casado的公司Andreessen Horowitz等公司會面。“我們正在進行非常非常開放的討論，”他説。他的目標是制定一項既“支持安全”又“支持創新”的法案，這對全球AI立法來説是一個挑戰。該法案預計將在8月底之前在州議會上投票通過。Wiener表示，他“對我們有一條獲得州長支持的途徑感到樂觀”。然而，在那一點上，一切都不確定。加利福尼亞州州長加文·紐森上週在一次活動中談到了AI的風險，同時警告不要過度監管。“如果我們過度監管，如果我們過度放縱，如果我們追逐閃亮的東西，”他説，“我們可能會陷入危險的境地。”
**有關人工智能的問題？**給我發郵件，Shirin Ghaffary，我會盡力在未來的新聞簡報中回答您的問題。
本週人類引用
我認識的最成功的人幾乎自信到了妄想的程度。
Sam Altman
OpenAI CEO
在Altman成為家喻户曉的名字多年之前，他以頑強和説服力給同行、老師和商界領袖留下了深刻印象，根據一篇新的《商業週刊》特寫故事 記述了Altman的早年和在初創企業界崛起的非凡經歷。但正如我的同事Ellen Huet所寫：“曾經被視為魅力的東西現在被許多人視為欺詐 - 一種向人們説任何能讓他得到想要的東西的傾向。”### 值得關注的人
英特爾CEO Pat Gelsinger登上台灣Computex展會講述他預計將幫助扭轉與AI領導者Nvidia等同行的份額損失的新產品。### 深度學習
- OpenAI和Google DeepMind的現任和前任員工要求保護發聲，談論AI的“嚴重風險”
- 據説美國監管機構正在調查微軟與AI初創公司Inflection的交易
- 埃隆·馬斯克的xAI計劃在孟菲斯建立一個容納巨型超級計算機的新設施
- Nvidia市值飆升至3萬億美元，在科技界引發“Jensanity”
- AI初創公司Cohere據稱從Nvidia和其他公司籌集了4.5億美元
- Pika，一家AI視頻初創公司，從投資者那裏籌集了8,000萬美元，包括演員兼歌手Jared Leto
彭博社更多內容
獲取科技日報以及更多彭博科技週刊直接發送到您的收件箱：
- 網絡公告涵蓋黑客和網絡間諜的陰影世界
- 遊戲進行中報道視頻遊戲業務
- 開機蘋果獨家新聞、消費者科技新聞等
- 屏幕時間近距離觀看好萊塢和硅谷的碰撞
- 聲音片段報道播客、音樂行業和音頻趨勢
據知情人士透露，一組聲稱已經黑客入侵了為北美數千家汽車經銷商提供軟件的CDK Global的團體，要求支付數千萬美元的贖金。
該知情人士表示，CDK計劃支付這筆贖金，但由於信息屬於私密信息，該知情人士要求不透露身份。據該知情人士稱，發動這次攻擊的黑客組織據信位於東歐。在勒索軟件攻擊的早期階段，討論是不確定的，情況可能會發生變化。
CDK沒有回應週五的多次置評請求。
自CDK發現漏洞並於6月19日關閉系統以來，其約15,000家汽車經銷商中的許多都陷入了混亂。CDK的核心產品——一套被稱為經銷商管理系統（DMS）的軟件工具——幾乎支撐了汽車零售商日常業務的每一個環節。因此，這次中斷影響了銷售、中斷了維修工作並延遲了整個行業去年美國銷售額超過1.2萬億美元的交付。這些中斷也發生在季末銷售推動之際。
“目前情況只是一片混亂，”Constellation首席執行官黛安娜·李在彭博電視台上説。Constellation是一家與美國各地汽車經銷商合作的營銷機構。“經銷商必須為銷售、服務、零部件的每一個功能運行DMS系統，甚至是庫存車輛，沒有DMS系統就無法做到。所以這是一場災難。”
| 閲讀更多關於CDK黑客攻擊的內容 |
|---|
| * 汽車經銷商受到12萬億美元市場的網絡攻擊衝擊 * CDK告訴經銷商，系統可能會停機數天 * 美國各地汽車經銷商在網絡攻擊後停止服務 |
CDK在6月19日短暫恢復了一些服務，但在第二次網絡攻擊後被迫停用。週四，該公司警告經銷商，他們的系統可能幾天內都無法使用。數天。
在一家實驗室服務公司遭受持續勒索軟件攻擊並導致倫敦醫院停電之後，黑客要求數千萬美元。索要5000萬美元。美國最大的醫療保險公司UnitedHealth Group Inc.今年早些時候承認向黑客支付了2200萬美元的勒索費。
CDK尚未透露是誰或哪個實體在入侵背後，但週四晚間向客户發出警告，稱外部方正在聯繫客户，試圖利用混亂局勢。
“我們知道惡意行為者正在聯繫我們的客户，冒充CDK的成員或關聯方，試圖獲取系統訪問權限，”該公司表示。“CDK的員工不會因為訪問客户的環境或系統而聯繫客户。請只回復已知的CDK員工和通訊。”
在經過幾十年的整合後，經銷商只有少數幾家DMS公司可供選擇。因此，成千上萬家商店高度依賴CDK的服務來安排融資和保險，管理車輛和零部件的庫存，並完成銷售和維修。
汽車經銷商Sonic Automotive Inc.使用CDK支持關鍵的經銷商運營，稱由網絡攻擊造成的中斷可能會對其運營產生“負面影響”，直到其系統恢復正常為止，根據週五的一份文件。Sonic尚未確定此次攻擊是否會對其財務產生實質性影響，並表示已通過臨時解決方案重新開放了所有經銷商以限制中斷。
CDK的母公司Brookfield Business Partners LP自10月以來遭遇最糟糕的交易日，週四暴跌5.7%，並在週五繼續下跌。經銷商集團AutoNation Inc.、Group 1 Automotive Inc.和Sonic Automotive Inc.的股價也大幅下跌。
成千上萬家汽車經銷商在一個通常繁忙的假日週三因為一起發生在美國各地經銷商的主要軟件提供商CDK Global的網絡事件而陷入停頓。
CDK發言人託尼·馬克裏託在一封電子郵件中表示：“公司關閉了所有系統，並進行了廣泛測試，並諮詢了外部第三方專家。” 馬克裏託表示，公司的核心產品——經銷商管理系統和數字零售解決方案已經恢復，CDK正在測試所有其他應用程序，並在恢復在線時提供更新。