加利福尼亞州州長加文·紐森簽署關於人工智能風險的行政命令 - 彭博社

彭博社最新消息： 您對人工智能有疑問。我們有答案。 訂閲彭博科技每週的Q&AI簡報 。

加利福尼亞州已經加入了全球各國政府之間瘋狂且有時令人困惑的競賽，旨在規範和利用被稱為生成式人工智能的技術。

週三早上，加州州長加文·紐森簽署了行政命令N-12-23，這是一項2500字的指令，要求州政府機構研究人工智能可能如何威脅加州居民的安全和隱私，同時授權州僱員嘗試使用人工智能工具並嘗試將其整合到州的運營中。

紐森在接受彭博新聞採訪時表示：“生成式人工智能是一項新技術，需要一種新的責任類別。”他補充説：“這裏正在打開一個潘多拉魔盒，我們只是希望以安全的方式完成。” 他補充説：“我們不能犯與社交媒體同樣的錯誤。”

加文·紐森攝影師：安德魯·卡巴列羅-雷諾茲/法新社/蓋蒂圖片社這項行政命令出台之際，華盛頓和其他政府正努力尋找如何監管人工智能。歐盟已經邁出了通過更嚴格的規定的初步步伐，例如提議OpenAI和Alphabet Inc.等公司需要進行頻繁的風險評估，並披露用於訓練其語言模型的受版權保護的材料。 拜登政府已經起草了一份人工智能權利法案的概要，其中要求公司在AI生成的內容上加水印，以便更容易識別。

此外，白宮預計將在今年秋天發佈一項旨在“保障美國人安全”免受人工智能威脅的行政命令。

紐森的行政命令似乎對該領域的新發展采取了較為寬鬆的監管方式，即使一些支持者也警告可能會導致大規模失業或引發人類的災難性後果。相反，該命令的文本讚揚了這項技術，並讚頌了加利福尼亞在培育這一技術方面的作用，指出該州擁有全美前50家人工智能公司中的35家。

該倡議還指示州長辦公室的商業和經濟發展部與該地區兩所學術強國加州大學伯克利分校和斯坦福大學的計算機科學實驗室建立正式合作伙伴關係，研究生成式人工智能的影響以及如何在歐洲、中國和其他地方的競爭野心面前推動該州的領導地位。

紐森對人工智能的樂觀態度是謹慎的。該行政命令授權負責執法、應急響應和技術採購的州政府機構共同對加利福尼亞關鍵基礎設施可能面臨的威脅進行風險分析，並在明年三月向州長提交一份機密報告。根據該命令，這些機構的任務是確保人工智能系統“保持有效的人類控制”。

州長要求增長和創新，斯坦福人類中心人工智能研究所政策總監拉塞爾·沃爾德表示，但他也“正在制定可能的監管框架的開端，並確保這是對所有加利福尼亞人有利的事情。”

人道科技中心執行主任特里斯坦·哈里斯對州長的行政命令表示讚賞，並表示“我們處於一種幾乎沒有實質性進展的情況下”來規範人工智能。哈里斯的關於技術災難性危險的視頻，《人工智能困境》在YouTube上觀看次數接近三百萬次，他認為政府仍然對技術挑戰毫無準備。“即將到來的規模和速度遠遠超出我們目前的準備程度，”他説。

在過去的六個月裏，紐森和他的工作人員會見了勞工領袖、消費者保護倡導者以及行業人士，如OpenAI首席執行官薩姆·奧爾特曼。紐森表示，他的政府為州立法機構起草了人工智能立法，但在當前的會期結束之前（9月14日結束）將其撤回，部分原因是該行業仍然年輕，而潛在意外後果的不確定性太多。他表示，這項行政命令“是我們的第一步。”

聯邦政府也在有條不紊地行動。要在人工智能領域採取約束性行動，白宮需要國會採取行動，但國會尚未起草立法，其成員目前正在就該主題舉行各種信息性會議。紐約民主黨參議員查克·舒默將於9月13日召集一次此類會議，與特斯拉首席執行官埃隆·馬斯克、Meta Platforms首席執行官馬克·扎克伯格、Alphabet首席執行官桑達爾·皮查伊和Nvidia公司首席執行官詹森·黃等科技公司CEO一起，作為開始制定跨黨派立法的努力的一部分。

紐森表示，儘管他是“拜登一切事物的全資子公司”，但他擔心聯邦政府會來得太晚。

作為一位充滿魅力的政治家，紐森去年以壓倒性優勢連任，已經成為2024年總統競選中領先的拜登代理人。他為這個事業承諾了1000萬美元的政治行動委員會，並經常代表拜登在紅色州巡迴演講。與此同時，這位州長也在努力打造自己的總統競選形象，最有可能在2028年，儘管他經常回避有關總統野心的問題。

紐森表示，他的態度與蒙大拿等州不同，蒙大拿最近禁止了流行的中國社交媒體應用TikTok。他們的做法是“準備、開火、瞄準。我們的做法是準備、瞄準、開火，”紐森説。這項行政命令“與蒙大拿剛剛做的事情形成鮮明對比。”

他補充説，他的大女兒名叫蒙大拿，最近在七月四日假期期間去了那個州，並表達了擔憂，擔心她因使用TikTok而被逮捕。他安慰她説沒有危險，儘管普通的蒙大拿人明年將無法下載這個應用。“我對過度監管很敏感，作為我們州的受託人，我不想只是競爭，”紐森説。“我想在創新領域佔據主導地位。”