OpenAI成立安全委員會，開始訓練新模型 | 路透社

OpenAI 標誌在2024年5月20日拍攝的插圖中可見。路透社/Dado Ruvic/插圖/檔案照片5月28日（路透社） - OpenAI 已成立一個安全與安保委員會，由董事會成員領導，包括首席執行官薩姆·阿爾特曼，因為它開始訓練下一個人工智能模型，該人工智能初創公司週二表示。

董事佈雷特·泰勒、亞當·丹吉洛和妮可·塞利格曼也將領導該委員會，OpenAI 在公司博客中表示。

微軟支持的(MSFT.O) OpenAI 的聊天機器人具有生成性人工智能能力，例如進行類人對話和根據文本提示創建圖像，隨着人工智能模型變得強大，引發了安全擔憂。新委員會將負責向董事會提出關於 OpenAI 項目和運營的安全與安保決策的建議。

“新的安全委員會標誌着 OpenAI 完成了從一個更不明確的非營利實體轉變為商業實體的過程，”D.A. Davidson 的董事總經理吉爾·盧里亞表示。

“這應該有助於簡化產品開發，同時保持問責制。”

前首席科學家伊利亞·蘇茨克維爾和簡·萊克，曾是 OpenAI 超對齊團隊的領導者，該團隊確保人工智能保持與預期目標的一致性，本月早些時候離開了公司。

OpenAI 在5月初解散了超對齊團隊，距離公司成立該團隊不到一年，部分團隊成員被重新分配到其他小組，CNBC 在高調離職幾天後報道。

委員會的首要任務是在接下來的90天內評估並進一步發展OpenAI現有的安全實踐，之後將向董事會分享建議。

公司表示，在董事會審查後，OpenAI將公開分享關於採納建議的更新。

委員會的其他成員包括新任首席科學家Jakub Pachocki和安全負責人Matt Knight。

公司還將諮詢其他專家，包括前美國國家安全局網絡安全主任Rob Joyce和前司法部官員John Carlin。

OpenAI沒有提供關於其正在訓練的新“前沿”模型的進一步細節，只表示它將使其系統達到“在通往AGI的道路上更高的能力水平”。

在5月早些時候，它宣佈了一種能夠進行真實語音對話和文本與圖像互動的新AI模型。科技彙總通訊將最新的新聞和趨勢直接送到您的收件箱。請在這裏註冊。