在因敏感言論被封后，那部AI生成動畫恢復放映了_風聞

AI也需要考慮“政治正確”嗎？

《Nothing，Forever》是一部最近在Twitch平台上引發了廣泛關注的動畫作品，基本由粗糙的畫面、不知所云的劇情和機械的電子音構成，之所以能引起討論，是因為它純粹是由AI生成的，我們之前也對此有過報道。

這部形式上模仿了美國90年代的情景戲劇《宋飛傳》的動畫，在Twitch平台上號稱“永不停播”，因為它採用了OpenAI裏GPT-3語言預測模型，號稱可以實時採集評論區用户的文字內容，並根據觀眾的反饋來調整劇情走向。

不過雖然在技術上能做到“永不停播”，但在兩個星期前，這個節目還是因為其他原因被平台封禁。

2月5日，在該動畫的一場深夜個人脱口秀中，虛擬人物Larry發表了一系列關於跨性別者的侮辱性言論，包括了“質疑變性人是否患有精神疾病”以及“變性人是否正在破壞社會結構”等內容。

顯然，這樣的言論勢必會引發多數人的抵制與不滿，按照規定，Twitch平台對《Nothing，Forever》採取了14天封禁的處罰，而這部動畫在最近即將重新恢復播放。

雖然發表爭議言論的是AI而非真人，但AI背後的研發團隊無疑需要為這起事故承擔相應的責任。在開發團隊發佈的一份聲明中，他們就表示這“完全是我方錯誤導致的一個技術問題。”

開發團隊宣稱根本原因是由於OpenAI的內容審核工具對AI模型意外失效，才導致了後續的事故。為了能避免類似問題的再次出現，開發人員表示正在組建一個關於AI的“安全委員會”，以便人工智能的審核水平能夠緊隨技術發展，以做到實時檢測可能的敏感內容。

如果AI可以與人類互動並學習相應知識，那麼如何避免它被大量錯誤或者無意義的內容“污染”？這可能是之後人們需要探討的問題。

為了讓節目重新上線，團隊還宣佈會引入一個“觀眾互動系統”，這個系統能夠讓觀眾安全地與節目互動，並且依舊能產出有創意的新內容，但他們目前暫未透露更多的情報。

儘管AI已經顯現出了自己的一部分“創造力”，但在徹底取代人類工作之前，人類還得發明出新的崗位來解決它產生的問題，這可能也算是一種另類的“塞翁失馬”了。