在因敏感言論被封后,那部AI生成動畫恢復放映了_風聞
游戏研究社-游戏研究社官方账号-02-21 08:46

AI也需要考慮“政治正確”嗎?
《Nothing,Forever》是一部最近在Twitch平台上引發了廣泛關注的動畫作品,基本由粗糙的畫面、不知所云的劇情和機械的電子音構成,之所以能引起討論,是因為它純粹是由AI生成的,我們之前也對此有過報道。

這部形式上模仿了美國90年代的情景戲劇《宋飛傳》的動畫,在Twitch平台上號稱“永不停播”,因為它採用了OpenAI裏GPT-3語言預測模型,號稱可以實時採集評論區用户的文字內容,並根據觀眾的反饋來調整劇情走向。
不過雖然在技術上能做到“永不停播”,但在兩個星期前,這個節目還是因為其他原因被平台封禁。
2月5日,在該動畫的一場深夜個人脱口秀中,虛擬人物Larry發表了一系列關於跨性別者的侮辱性言論,包括了“質疑變性人是否患有精神疾病”以及“變性人是否正在破壞社會結構”等內容。

顯然,這樣的言論勢必會引發多數人的抵制與不滿,按照規定,Twitch平台對《Nothing,Forever》採取了14天封禁的處罰,而這部動畫在最近即將重新恢復播放。
雖然發表爭議言論的是AI而非真人,但AI背後的研發團隊無疑需要為這起事故承擔相應的責任。在開發團隊發佈的一份聲明中,他們就表示這“完全是我方錯誤導致的一個技術問題。”
開發團隊宣稱根本原因是由於OpenAI的內容審核工具對AI模型意外失效,才導致了後續的事故。為了能避免類似問題的再次出現,開發人員表示正在組建一個關於AI的“安全委員會”,以便人工智能的審核水平能夠緊隨技術發展,以做到實時檢測可能的敏感內容。
如果AI可以與人類互動並學習相應知識,那麼如何避免它被大量錯誤或者無意義的內容“污染”?這可能是之後人們需要探討的問題。
為了讓節目重新上線,團隊還宣佈會引入一個“觀眾互動系統”,這個系統能夠讓觀眾安全地與節目互動,並且依舊能產出有創意的新內容,但他們目前暫未透露更多的情報。
儘管AI已經顯現出了自己的一部分“創造力”,但在徹底取代人類工作之前,人類還得發明出新的崗位來解決它產生的問題,這可能也算是一種另類的“塞翁失馬”了。