ChatGPT創造者發佈AI生成文本檢測工具，稱其"不可靠"——《華爾街日報》

風靡全球的聊天機器人ChatGPT背後的初創公司推出了一款檢測人工智能生成文本的工具，隨着人們日益擔憂該技術可能被作弊者、垃圾郵件發送者等濫用。

但OpenAI表示，其所謂的AI分類器本身在近四分之三的情況下無法檢測出機器人撰寫的文本。

這家總部位於舊金山的初創公司於11月推出ChatGPT，最近宣佈與微軟公司達成多年、數十億美元的合作關係，並於週二發佈了該檢測工具。該公司在一篇博客文章中説，該工具旨在幫助人們區分人類撰寫的文本與一系列人工智能程序（不僅僅是ChatGPT）生成的文本。OpenAI表示，在評估中，其新工具有26%的概率能正確識別出AI撰寫的文本為"可能由AI撰寫"。該公司還表示，分類器有9%的誤報率，即錯誤地將人類撰寫的文本標記為AI撰寫。

“我們的分類器並不可靠，“該公司表示，並稱其為"正在開發中的產品”。

OpenAI表示，該工具本身還不夠完善，但可以用來補充教育工作者、僱主和其他人用來確定文本來源的方法。

“雖然不可能可靠地檢測出所有AI撰寫的文本，但我們相信好的分類器可以緩解將AI生成的文本虛假宣傳為人類撰寫的情況，“該公司表示。

ChatGPT因其能夠在幾秒鐘內就幾乎任何主題生成擬人化的文章、詩歌、劇本和銷售宣傳而風靡一時。

微軟在2019年和2021年投資了OpenAI，並於上週宣佈大幅擴展合作伙伴關係，並表示計劃將該公司的技術整合到其眾多產品中。

在ChatGPT發佈後不久，其可能被濫用於傳播錯誤信息和編寫垃圾郵件等行為的潛在風險便顯現出來。學校和教育工作者也警告稱，學生可能利用它來撰寫論文或其他佈置的作業。12月，該軟件作為研究實驗的一部分，通過了美國醫師執照考試的所有三個部分。

OpenAI於11月推出了ChatGPT，最近宣佈與微軟達成一項數十億美元的合作。圖片來源：Gabby Jones/彭博新聞一些學校已採取措施禁止學生使用ChatGPT，而另一些學校則試圖接受它。普林斯頓大學大四學生Edward Tian開發了一款名為GPTZero的軟件，試圖識別由該軟件生成的文本。

OpenAI表示，在開發最新的分類器工具時考慮到了學校的需求。“我們認識到，識別AI生成的文本一直是教育工作者討論的重點，同樣重要的是認識到AI生成文本分類器在課堂上的侷限性和影響，”該公司表示。

該公司稱，記者、研究人員和其他人也可以使用該工具來檢測AI生成的內容。

OpenAI表示，ChatGPT在短文本上仍然不可靠，且長文本有時會被錯誤標記。在英語以外的其他語言中表現"明顯更差”，並且在檢測計算機代碼中AI使用情況時"不可靠”。

另一個問題是，該工具難以判斷一系列事實（例如美國各州首府）是由人還是AI編寫的，因為正確答案是相同的，OpenAI表示。該公司稱，AI生成的文本也可以通過編輯來規避分類器。

該公司表示，這些注意事項引發了關於該工具實際效用的疑問。

“像我們這樣的分類器可以根據成功攻擊進行更新和重新訓練，“OpenAI説。“但從長遠來看，檢測是否具有優勢尚不明確。”

OpenAI希望通過用户反饋改進該工具。該公司表示已聯繫美國教育工作者討論ChatGPT的能力和侷限性。

“作為我們使命的一部分，這些重要對話是為了與受影響羣體直接接觸，安全部署大型語言模型，“公司表示。

聯繫作者Sarah E. Needleman：[email protected]