“AI教父”和其他人敦促更多深度偽造技術監管的公開信 | 路透社

一名演員在倫敦製作合成面部重塑視頻時，下半臉被綠色線框模型覆蓋，這種視頻又被稱為深度偽造，拍攝於2019年2月12日。圖片拍攝於2019年2月12日。路透社電視台/路透社提供伯克利，2月21日（路透社）-包括技術先驅Yoshua Bengio在內的人工智能專家和行業高管簽署了一封公開信，呼籲加強對深度偽造的監管，稱這可能對社會造成潛在風險。

該團體在信中表示：“如今，深度偽造往往涉及性暴力圖像、欺詐或政治虛假信息。由於人工智能正在迅速發展，並且使深度偽造變得更加容易，因此需要採取保障措施。”這封信是由加州大學伯克利分校的人工智能研究員Andrew Critch起草的。

深度偽造是由人工智能算法創建的逼真但虛構的圖像、音頻和視頻，而技術的最新進展使它們越來越難以與人類創作的內容區分開來。

這封信的標題是“擾亂深度偽造供應鏈”，其中提出瞭如何監管深度偽造的建議，包括對深度偽造兒童色情製品進行全面刑事化、對任何故意製作或促進有害深度偽造傳播的個人進行刑事處罰，並要求人工智能公司防止其產品製造有害深度偽造。截至週三上午，來自各行各業的400多人，包括學術界、娛樂界和政界人士，簽署了這封信。

簽署者包括哈佛大學心理學教授史蒂文·平克（Steven Pinker）、算法公正聯盟創始人喬伊·布拉明威尼（Joy Buolamwini）、兩位前愛沙尼亞總統、谷歌DeepMind的研究人員以及OpenAI的一位研究人員。自微軟支持的OpenAI於2022年底推出ChatGPT以來，確保人工智能系統不會對社會造成傷害一直是監管機構的重點關注，ChatGPT讓用户驚歎不已，能夠進行類似人類對話和執行其他任務。一些知名人士曾多次發出關於人工智能風險的警告，特別是埃隆·馬斯克去年簽署的一封信，呼籲暫停開發比OpenAI的GPT-4人工智能模型更強大的系統長達六個月。