OpenAI表示新工具將能夠檢測由Dall-E生成的圖像-彭博社

OpenAI正在構建一個工具，用於高度準確地檢測其人工智能服務Dall-E 3創建的圖像。

ChatGPT和圖像生成器DALL-E的製造商首席技術官Mira Murati週二表示，OpenAI的工具“可靠率達到99%”。她表示，該工具正在內部測試，計劃在未來公開發布，但沒有具體時間表。

Murati與OpenAI首席執行官Sam Altman一起發言，兩位高管出席了加利福尼亞州拉古納海灘的《華爾街日報》Tech Live大會。

已經有一些工具聲稱可以檢測使用人工智能製作的圖像或其他內容，但它們可能不準確。例如，OpenAI在一月份發佈了一個類似的工具，旨在確定文本是否由AI生成，但由於不可靠而在七月擱置。該公司表示正在努力改進該軟件，並致力於開發方法，以便還能識別音頻或圖像是否由AI製作。

隨着人工智能工具可以被用來操縱或製造全球事件新聞報道的重要性不斷增長，對這種檢測工具的需求也日益重要。Adobe公司的Firefly圖像生成器解決了挑戰的另一個方面，承諾不創建侵犯創作者知識產權的內容。

週二，OpenAI高管們還透需了關於接替GPT-4的AI模型的線索。雖然OpenAI尚未公開表示接替GPT-4的模型可能被稱為什麼，但該初創公司在七月向美國專利和商標局申請了“GPT-5”商標。

像ChatGPT這樣的聊天機器人——它使用GPT-4和前一代模型GPT-3.5——容易編造事實，也被稱為幻覺；當被問及GPT-5模型是否不再會説謊時，Murati説：“也許吧。”

“讓我們看看。我們在處理GPT-4的幻覺問題上取得了很大進展，但我們還沒有達到我們需要的地步，”她説。

Altman還談到了OpenAI可能會設計和製造自己的用於訓練和運行AI模型的計算機芯片的可能性，而不是使用像Nvidia Corp.這樣的公司提供的芯片，後者目前被視為市場領導者。

“默認路徑肯定不會是這樣的，”他説，“但我永遠不會排除這種可能性。”