ChatGPT的創建者OpenAI正在測試內容審核系統-彭博社
Priya Anand
OpenAI標誌。
BloombergOpenAI表示,其技術能夠對內容進行調節,這項任務可以幫助企業變得更高效,並突出了一種可能的用例,即炙手可熱的人工智能工具,尚未為許多公司帶來巨大收入。
這家初創公司表示,其最新技術GPT-4,為ChatGPT提供動力,可用於制定適當內容的政策,並可以更快地標記或做出有關帖子的決定。該公司一直在測試這項技術,並邀請客户也進行實驗。OpenAI表示,其工具可以幫助企業在短短一天內完成六個月的工作。
OpenAI政策工作人員Andrea Vallone表示,該初創公司發現GPT-4在調節方面表現出色,這通常是由一小羣人類工作者來完成的角色。這些工作有時可能會對從事這些工作的人造成創傷。與此同時,包括Meta Platforms Inc在內的許多大公司已經在員工之外使用人工智能來協助調節。利用技術來解釋人類寫作的微妙之處可能具有挑戰性,OpenAI強調該過程不應完全自動化。
起草內容調節政策和標記內容通常是一項漫長的工作。Vallone表示,OpenAI的工具將有助於減少“需求與解決方案之間的差距”。
理想情況下,公司的人類員工將能夠利用技術來釋放他們,讓他們專注於與潛在內容違規的極端案例以及如何完善政策相關的更復雜決策,她説。“我們繼續進行人工審核,以驗證一些模型的判斷,”她説。“我認為始終將人類置於循環中是很重要的。”