OpenAI支持為先進人工智能系統開發頒發許可證 - 彭博社

OpenAI首席執行官Sam Altman

攝影師：Eric Lee/BloombergOpenAI起草的一份內部政策備忘錄顯示，該公司支持要求任何想要開發先進人工智能系統的人獲得政府許可的想法。該文件還暗示，該公司願意揭開其用於訓練圖像生成器的數據的面紗。

ChatGPT和DALL-E的創造者在5月4日白宮官員與OpenAI首席執行官Sam Altman等科技高管之間的會議後，在內部文件中提出了一系列人工智能政策承諾。這家總部位於舊金山的公司在草案中表示：“我們承諾與美國政府和全球各地的政策制定者合作，支持未來最高性能基礎模型的許可要求。”會議。

閲讀更多： OpenAI的Altman表示“AI可能出現很多問題”

由OpenAI等人工智能巨頭共同開發的政府許可制度的想法為與初創公司和開源開發者可能視之為企圖使其他人更難進入該領域的衝突鋪平了道路。這並不是OpenAI第一次提出這個想法：在5月的美國參議院聽證會上，Altman支持了創建一個機構，他表示，該機構可以為人工智能產品發放許可證，並在有人違反規定時吊銷許可證。

政策文件的出台正值微軟公司、Alphabet Inc.的谷歌和OpenAI預計將在週五公開承諾為開發該技術制定保障措施 — 這是對白宮的呼籲。據熟悉計劃的人士透露，這些公司將承諾對人工智能的負責任開發和部署。

閲讀更多： AI Leaders Set to Accede to White House Demand for Safeguards

OpenAI警告稱，內部政策文件中提出的想法將與不久將由白宮與科技公司一同宣佈的想法有所不同。該公司全球事務副總裁安娜·馬坎朱在接受採訪時表示，公司並不像“推動”許可證那樣，而是認為這種許可是政府跟蹤新興系統的“現實”方式。

“政府瞭解可能會產生潛在有害影響的超級強大系統是否即將出現是很重要的，”她説，“如果沒有人願意像我們這樣自我報告，那幾乎沒有辦法確保政府瞭解這些系統的方式。”

閲讀更多： Big Tech Wants AI Regulation — So Long as Users Bear the Brunt

馬坎朱表示，OpenAI僅支持對比OpenAI當前的GPT-4更強大的人工智能模型實行許可制度，並希望確保較小的初創公司免受過多的監管負擔。“我們不想扼殺生態系統，”她説。

OpenAI 在內部政策文件中還表示，願意更加開放地公開用於訓練圖像生成器（如 DALL-E）的數據，稱其致力於在年底前“融入溯源方法”。數據溯源是一種用於追蹤開發人員工作透明度和數據來源的做法，政策制定者認為這對於防止人工智能工具傳播錯誤信息和偏見至關重要。

OpenAI備忘錄中提出的承諾與微軟在五月宣佈的一些政策提議密切相關。OpenAI指出，儘管接受了微軟的100億美元投資，但仍然是一家獨立公司。

該公司在文件中披露，正在進行關於水印技術的調查——一種用於跟蹤人工智能生成圖像的真實性和版權的方法，以及在人工智能生成內容中的檢測和披露。公司計劃公佈結果。

該公司還在文件中表示，願意接受外部的紅隊測試——換句話説，允許人們進入並在多個方面測試其系統的漏洞，包括攻擊性內容、操縱和錯誤信息以及偏見的風險。公司在備忘錄中表示，支持建立一個信息共享中心，以便在網絡安全方面進行合作。

在備忘錄中，OpenAI似乎承認人工智能系統對就業市場和不平等可能構成的潛在風險。公司在草案中表示，將開展研究並向政策制定者提出建議，以保護經濟免受潛在的“破壞”。