OpenAI CEO Altman在倖存驅逐六個月後的防禦 - 彭博社

Shirin Ghaffary

Sam Altman，OpenAI首席執行官，在2024年5月21日星期二在美國華盛頓州西雅圖的微軟Build活動上發言。

攝影師：Chona Kasinger/Bloomberg在遭受來自國家贊助黑客的重複攻擊後，微軟全球範圍內加強了安全措施。

攝影師：Andrea Verdelli/BloombergG42和Lunate是由阿聯酋國家安全顧問謝赫·塔赫努恩·本·扎耶德·阿勒納哈揚監督的一個龐大帝國的一部分。

來源：G42嗨！我是Shirin，來自舊金山。在相對平靜的幾個月後，OpenAI內部再次出現裂痕。但首先…

三件事要知道：

  • 可穿戴AI初創公司Humane正在探索潛在的出售
  • OpenAI與News Corp.簽署了一項多年的內容許可協議
  • Alphabet、Meta向好萊塢提供數百萬美元合作開發AI

Altman的道歉之旅

在Sam Altman成功完成一次驚人的重返OpenAI之後，首席執行官再次處於防守狀態，但這次是來自員工和世界上最著名的女演員。

最近，OpenAI的安全團隊相繼辭職，同時有報道稱該公司試圖壓制辭職員工，並遭到斯嘉麗·約翰遜指控，稱該初創公司在一款新產品中使用了與她自己聲音“驚人相似”的聲音，而未經她的許可。Altman隨後發表了一系列道歉和自我批評。

在任何快速增長的初創公司中，一定程度的內部動盪和公關失誤是司空見慣的。在此期間，OpenAI也取得了一些顯著的成就，包括ChatGPT創下的高流量紀錄以及與News Corp.達成的一項重要協議。但最近一連串的事件將公司內部長期存在的關於AI安全的矛盾問題以及OpenAI首席執行官的信任度問題重新聚焦，這些問題可以追溯到他短暫被撤職的時期。

正如我的同事Rachel Metz和我在上週報道的那樣，OpenAI解散了其備受關注的“超對齊”團隊，該團隊負責減輕更強大、迄今為止是假設的AI系統的長期風險。此舉是在OpenAI首席科學家Ilya Sutskever辭職之後進行的，他是政變中的核心人物，並在之後的幾個月裏保持低調。

OpenAI表示該團隊的工作將整合到公司更廣泛的研究中，但這一舉動仍引發了警報，人們擔心這家初創公司可能不再完全致力於解決AI安全風險。這些擔憂加劇了Jan Leike的引人注目的公開評論，他是Sutskever在超對齊團隊中的合作領導者，也在上週辭職。

Leike 在X上發佈，表示他與OpenAI領導層在公司的核心優先事項上存在分歧已經有一段時間了，並且他擔心公司沒有足夠重視AI安全、安全性和社會影響等主題。他寫道：“在過去幾年裏，安全文化和流程已經被拋到一邊，而更注重的是閃亮的產品。”

訂閲彭博平等新聞簡報*，由Claire Suddath每週報道美國和其他地方性別、種族和階級如何塑造資本主義。*本週的簡報關注OpenAI與斯嘉麗·約翰遜之間的衝突，以及科技公司如何養成將女性聲音放在助理角色中的習慣。

Leike並不是最近辭職的唯一一位AI員工。超對齊團隊的另外兩名成員以及一些從事與安全相關團隊工作的其他員工也已離開公司。最近，OpenAI政策研究員Gretchen Krueger表示她辭職，指出她和Leike以及Sutskever對這家初創公司的擔憂是一致的。（Sutskever尚未公開表達擔憂。）

目前關於這些員工具體遇到了什麼問題的細節很少。Leike聲稱他的團隊沒有得到最初承諾的計算能力，這是他們進行實驗所需的。

上週末我們發現了一些員工可能不願分享太多信息的原因之一：他們可能會失去大量股權。Vox 報道，一些OpenAI員工被要求籤署與公司股份掛鈎的不詆譭協議。雖然這在許多科技公司是標準做法，但利用這些協議來威脅員工潛在的有利股權並不常見。

Altman現在正在進行一次道歉之旅。他承諾為任何擔心此事的員工取消股權條款，並 道歉這項政策，稱其為“我一直以來‘在OpenAI運營中感到真正尷尬’的幾次之一。”他 在X上發佈説Leike“是對的”，公司“還有很多工作要做”。他向Johansson道歉。

女演員Scarlett Johansson攝影師：Andrew Harrer這位獲得奧斯卡提名的女演員 聲稱Altman先前曾邀請她為ChatGPT配音。Altman表示他是“Her”這部科幻電影的粉絲，該電影中Johansson為智能AI助手的聲音。Johansson表示拒絕了Altman的邀請，並“震驚”地得知OpenAI選擇了一個聽起來類似的聲音作為其新語音助手的選項之一。

奧特曼後來表示，聲音“從未打算”像約翰遜，並承認公司需要“溝通更好”。但溝通失敗的一大原因似乎來自奧特曼本人。

OpenAI表示，在奧特曼聯繫約翰遜之前幾個月就招募了配音演員，而那些演員沒有被要求模仿這位女演員。一位OpenAI員工告訴《華盛頓郵報》，奧特曼在配音過程中並沒有參與得很密切，因為他忙於環遊世界。但奧特曼決定聯繫約翰遜，並在語音助手發佈後立即在社交媒體上提到她的電影，這引發了比較和審查。

奧特曼現在面臨着公眾對他“在處理事務時不一貫坦誠”的指控，正如董事會在11月罷免他時所指稱的那樣。最新事件可能只是由於公司首席執行官與員工之間缺乏協調而導致的，這家公司正在全速前進，以擴大全球芯片製造能力，進行復雜的媒體許可交易，並創造超人類人工智能。但如果一家公司無法做好細節，就更難相信它有能力處理更雄心勃勃的項目。

如果您是OpenAI的現任或前任員工，或者瞭解該公司的人，並且願意交談，請與我聯繫。給我發電子郵件，Shirin Ghaffary，或在Signal上聯繫我，用户名為shirin.30

本週人物語錄

“這是新工業革命的開始。”

Jensen Huang

Nvidia首席執行官

Nvidia 股價週四大漲，因芯片製造商發佈了一個樂觀的銷售預測，顯示人工智能計算支出仍然強勁。### 值得關注的公司

Scale AI，一家幫助頂尖科技公司改進用於構建人工智能產品的數據的初創公司，其估值大約翻了一番，達到138億美元。### 深度學習

彭博社更多內容

獲取科技日報和更多彭博科技週刊直接發送到您的收件箱：

  • 網絡公告涵蓋黑客和網絡間諜的陰影世界
  • 遊戲進行中報道視頻遊戲業務
  • 開機提供蘋果獨家新聞、消費者科技新聞等
  • 屏幕時間近距離觀看好萊塢和硅谷的碰撞
  • 聲音片段報道播客、音樂行業和音頻趨勢

微軟公司告訴中國員工，從9月開始，他們只能使用iPhone進行工作，有效地將基於Android的設備排除在工作場所之外。

這家美國公司很快將要求在中國的員工使用蘋果公司的設備來驗證他們的身份登錄，根據彭博社查閲的內部備忘錄。這項措施是公司範圍內努力加強微軟產品和服務防範黑客攻擊的一部分，將影響中國大陸數百名員工，並旨在確保所有員工使用微軟認證器密碼管理器和身份通行證應用。

消息稱，微軟選擇阻止這些設備訪問其企業資源，因為它們無法連接到中國的谷歌移動服務。由於中國沒有Google Play，這就只剩下蘋果的App Store是中國員工下載這些強制性安全應用的唯一途徑。

公司在遭受來自國家支持的黑客的重複攻擊後，全球範圍內加強了安全措施，今年一月份披露的與俄羅斯有關的數據泄露事件影響了數十家美國政府機構，包括國務院。在國內立法者的重壓和批評下，公司去年十一月啓動了一項名為安全未來計劃的全公司努力。

觀看：微軟告訴中國員工，從九月起他們只能使用iPhone進行工作。Minmin Low報道。

此舉還凸顯了中國Android應用商店的碎片化特性以及中國和國外移動生態系統之間的差異日益增大。由於谷歌的移動服務在中國不可用，本土智能手機制造商如華為技術有限公司和小米公司轉而運營自己的平台。

備有Android手機的員工，包括華為或小米制造的設備，將獲得一次性購買的iPhone 15，備忘錄中指出。公司將在中國各地設立各種集散地點供員工領取iPhone，包括谷歌服務可訪問的香港。員工仍可將Android手機用於個人用途。

“由於在該地區無法使用谷歌移動服務，我們希望為員工提供一種訪問這些必需應用程序的方式，比如使用iOS設備，”微軟發言人在一份電子郵件聲明中説。

週一，微軟和蘋果股價在紐約基本持平。谷歌母公司Alphabet Inc.的股價下跌了近1%，而小米的股價在香港下跌約1%。

微軟的舉動可能再次引起人們對iPhone在中國的情況的關注 —— 這是一個敏感問題，因為北京和華盛頓正陷入地緣政治衝突。自2023年以來，越來越多的中國政府支持的公司和機構已經要求員工停止攜帶外國設備上班，理由是安全問題。而五月份，《華爾街日報》報道稱，微軟提議將駐華從事人工智能工作的700至800名員工搬遷至其他地方，人工智能是美國和中國的關鍵戰略技術。

微軟的安全未來計劃，簡稱SFI，是其二十年來最雄心勃勃的安全改革。微軟表示，除其他措施外，它將利用人工智能和其他方法更快地解決雲漏洞，加大對黑客竊取憑據的難度，並自動強制員工執行多因素身份驗證。

閲讀更多： 微軟承諾在大規模黑客攻擊後徹底改革網絡安全

阿布扎比的一家新投資機構已經接管了人工智能公司G42的中國基金的管理權，據知情人士透露，這將使這些資產掌握在酋長國皇室的一位有權勢的成員手中。

該基金Lunate計劃聘請一個小團隊來幫助管理原本屬於G42的42XFund，這個實體持有中國科技公司的股份，包括字節跳動和京東等公司，知情人士稱，要求不透露身份討論私人信息。