嚴防“文生圖”亂象，上海納管AI應用

隨着人工智能技術的飛速發展，其在為生活帶來便利的同時，也被不法分子盯上，成為製造網絡謠言、傳播有害信息的“新武器”。上海警方敏鋭洞察到這一新趨勢，迅速行動，將涉人工智能類應用納入監管範圍，不間斷、動態化開展遠程安全檢查。昨天，記者從市公安局新聞發佈會上獲悉，今年以來，上海警方共偵破涉網案件8000餘起。

今年7月，警方在工作檢查中發現，本市某網站上存在虛假、暴力血腥等不良信息。經調查，該網站提供“文生圖” AI大模型，用户只需要輸入一些提示詞，AI大模型就可以生成相應的圖片。但公司對於生成出的圖片監管不夠規範，造成了部分由AI生成的圖片缺乏審核，成為了虛假、暴力血腥等不良信息的載體。對此，警方依法對該網站予以行政處罰並責令改正。今年以來上海警方深入開展排查和調研新技術新應用，及時納管涉人工智能類應用。同時，不間斷、動態化開展遠程安全檢查。

據瞭解，今年以來，上海公安機關重拳嚴打網絡黑灰產、網絡黑客、網絡謠言等各類涉網違法犯罪，共偵破涉網案件8000餘起。從已偵涉網案件看，網絡黑灰產、網絡黑客、侵犯公民個人信息和網絡謠言四類案件比較突出。警方發現，藉助互聯網新技術、新應用，網絡黑客攻擊犯罪不斷升級，攻擊目標也從單純破壞網絡信息系統，逐步轉變為盜取網絡資產、侵犯公民合法權益、搶佔公共資源。上海警方緊盯入侵植入、非法篡改網站，利用技術手段破壞計算機系統竊取公民信息等作案手法，深挖徹查編寫黑客程序、兜售叫賣“肉雞”、發起網絡攻擊等犯罪環節，今年以來偵破黑客類犯罪案件同比上升35%。

同時，上海警方重拳打擊利用技術手段非法實施流量劫持、非法獲取網民賬號、利用網絡非法引流推廣等犯罪行為，摧毀犯罪團伙、斬斷利益鏈條。今年以來，共偵破網絡黑灰產案件2500餘起，查處非法APP、網站300餘個，偵破網絡謠言案件1100餘起。

為防止未成年人蔘與打賞主播等行為，上海警方指導本市20餘家網絡直播平台開設“青少年模式”，禁止平台為未成年人提供現金充值、“禮物”購買、在線支付等各類打賞服務。同時，指導平台建立打賞投訴舉報渠道，在接到未成年人使用他人賬號打賞等投訴舉報後，立即停止主播賬號提現功能。

值得一提的是，本市還為青少年織密網絡安全的“防護網”。為進一步加強網絡遊戲賬號實名認證管理，上海警方指導本市重點網絡遊戲公司打造“成長關愛平台”，除落實實名認證外，還增加了人工巡查、人臉語音識別、用户舉報等多種方式，提高身份認證的準確性。用户一經核驗為未成年人，立即轉為“青少年模式”，並對時段、時長、權限、消費等功能加以限制，引導未成年人適度遊戲。

本文來源：上海法治報