OpenAI選舉：初創公司試圖阻止人工智能競選誤導信息 - 彭博社

攝影師：David Paul Morris/Bloomberg OpenAI 正在推出一系列舉措，以防止其產品在美國和全球選舉的重要一年被用於傳播錯誤信息。

這家人工智能初創公司在週一宣佈了新工具，這些工具將為其聊天機器人ChatGPT提供的有關當前事件的信息進行歸因，並幫助用户確定一張圖片是否是由其人工智能軟件創建的。這些變化是因為人們對所謂的“深度偽造”圖片和其他人工智能生成的內容可能在競選期間誤導選民的風險感到擔憂。

該公司在週一的一篇博客文章中寫道：“保護選舉的公正性需要來自民主進程各個角落的合作，我們希望確保我們的技術不會被用於可能破壞這一進程的方式。”

這家初創公司將開始使用其Dall-E 3圖片生成工具生成的圖片進行編碼，並附加有關來源的信息，這些信息指的是有關內容來源的數據，比如誰製作了這張圖片以及製作時間。這可以幫助選民更好地瞭解他們在網上看到的圖片是否是由人工智能製作的。該過程將使用由內容來源和真實性聯盟（Coalition for Content Provenance and Authenticity，簡稱C2PA）制定的加密標準。Adobe公司、微軟公司、英特爾公司和其他幾家公司於2021年共同創立了這個聯盟。

OpenAI還表示，它將發佈一款圖像檢測工具，供人們使用以查看圖像是否由Dall-E生成。該公司將首先向記者、平台和研究人員推出該工具以徵求反饋意見。歷史上，許多試圖確定特定圖像或文字是否由人工智能創建的檢測工具在準確性上存在困難。然而，OpenAI首席技術官米拉·穆拉蒂在十月份表示，該公司一直在研發的圖像檢測工具在內部測試中準確率達到了99%。

對於ChatGPT，OpenAI將使人們能夠使用聊天機器人實時獲取有關當前事件的信息。結果將提供歸屬信息和文章鏈接，這是該應用目前默認不顯示的功能。該公司表示正在“越來越多地與現有信息來源整合”。

OpenAI正在與數十家媒體公司進行內容許可協議談判，包括CNN、福克斯公司和時代等主要媒體機構，此前有報道稱。這家初創公司已經與Axel Springer SE和美聯社達成協議。

“與圖像一樣，信息來源的透明度可以幫助選民更好地評估信息，並自行決定他們可以信任什麼，”該公司在文章中表示。