中國打擊人工智能驅動的詐騙激增——《華爾街日報》

中國國家互聯網信息辦公室已開始執行限制深度合成技術使用的規定。圖片來源：Thomas Peter/REUTERS人工智能正深入中國人的日常生活——包括激增的AI詐騙。

北京對互聯網實施全球最嚴格的監管措施，在遏制超逼真AI生成內容使用方面已成為先行者。

最近幾周，全國警方通過官方社交媒體賬號警示，犯罪分子利用AI軟件生成欺詐文本並冒充目標受害者的親友。

今年四月，郭姓男子在微信上接到冒充者的視頻通話。詐騙者偽裝成郭某好友，説服他在10分鐘內向內蒙古某銀行賬户轉賬約60萬美元。轉賬後聯繫朋友確認時，他才意識到受騙。

“我們進行了視頻通話，我確認了畫面中的面容和聲音，所以放鬆了警惕，“內蒙古警方在社交媒體通報中引述郭某的陳述。

郭某向福州警方報案後，當地警方聯繫了詐騙分子開户的內蒙古警方。據警方微信通報，當局已攔截大部分資金轉移，並正追回剩餘款項。

同月，據當地國有報紙《新安晚報》報道，中國東部安徽省警方拘留了利用AI換臉和語音合成技術誘騙一名男子向所謂"好友"轉賬大額資金的詐騙團伙。

全球監管機構一直在努力治理所謂的"深度偽造"技術，這種技術可將圖像、音頻或視頻中的人物替換為他人。中國迅速出台了相關規定，並利用現有技術手段追蹤AI詐騙分子。

今年1月，中國國家互聯網信息辦公室開始實施新規，禁止使用AI生成的圖像、音頻和文本傳播虛假信息或違反法律法規、破壞經濟秩序、危害國家安全的內容。這些寬泛的定義為監管部門提供了較大裁量空間。

郭先生的遭遇引發社會強烈共鳴。5月警方通報案情後，微博平台上#AI詐騙正在全國爆發#話題迅速登上熱搜。該話題現已被屏蔽，表明審查機構試圖限制相關討論。搜索該主題會顯示"根據相關法律法規和政策，搜索結果未予顯示”。

字節跳動旗下抖音平台（TikTok中國版）於5月提出平台規範與行業倡議，包括呼籲同業禁止使用AI軟件製作虛假內容和謠言。

中國當局近幾周加大了對人工智能聊天機器人生成虛假信息的打擊力度——這些虛假信息有時似乎模仿了此前引發社交媒體風暴的事件。

上個月，在甘肅省，當局拘留了一名男子，據稱他利用網上搜集的新聞片段，在ChatGPT上編造了一起不存在的火車事故文章。警方稱，他將文章發佈在一個博客聚合平台上，該平台允許用户根據流量分享廣告收益。警方表示，該文章獲得了1.5萬次瀏覽。

政府對2011年華東地區兩列動車相撞事故的處理曾引發廣泛憤慨。

同樣在5月，河南省當局指控一名男子為博取點擊量，利用ChatGPT編造了餐館暴力鬥毆的虛假信息。這些由ChatGPT生成的標題謊稱一名女子在鬥毆中被男子用磚塊擊中頭部後死亡。

這些標題讓人聯想到去年瘋傳的一段視頻，視頻顯示一羣男子在餐館毆打幾名女子，該事件曾引發關於針對女性性別暴力的激烈網絡討論。

ChatGPT的研發公司OpenAI未將中國列入該聊天機器人的服務國家名單，但許多人已通過虛擬專用網絡找到繞過限制的方法。

ChatGPT的流行在中國掀起熱潮，受兩年監管整頓和經濟疲軟衝擊的科技企業視該技術為新的增長驅動力。

搜索引擎運營商百度、電子商務公司阿里巴巴集團以及人工智能企業商湯科技均已推出自研大語言模型——這項支撐ChatGPT的基礎技術。其他科技公司也正探索如何將該技術整合至產品中。

各國政府普遍擔憂類ChatGPT服務可能傳播歧視性或有害信息。當多國監管機構開始探索如何管控這波生成式AI技術浪潮時，中國已構建起審查聊天機器人的監管框架。

國家網信辦於四月發佈新規草案，要求企業在推出AI聊天機器人前需通過安全審查。根據該草案，企業有責任確保其AI服務生成的內容真實準確，且符合中國共產黨的政治價值觀。

聯繫記者沈璐：[email protected]

本文發表於2023年6月5日印刷版，標題為《AI驅動的欺詐行為在中國引發關注》。