AI寫作假新聞鬧出大烏龍 新技術更需要新監管_風聞

據浙江之聲官微消息，2月16日，一則“浙江省杭州市政府3月1號取消機動車依尾號限行”的“新聞”在網上傳開了，這條看起來沒頭沒尾的“新聞”一時間還真讓不少人信以為真了。2月17日，杭州警方證實消息不實，警方已介入調查。

　　很快這起烏龍事件的源頭也被找到了，原來是杭州某小區業主在羣眾討論最近非常熱門的AI聊天機器人chatgpt時，一位業主開玩笑説自己要用chatgpt來寫一條關於杭州取消限行的新聞稿，隨後將chatgpt生成的文章發佈在了羣中。結果被羣內不明真相的其他業主截圖轉發了，因此在網上流傳開來，引起了誤會，該業主後續也在羣中表示了歉意。

　　這起烏龍事件引發了不少網友的討論，從性質上來説，這條假新聞屬於謠言，但另一方面，這個錯誤究竟應該誰來負責又引發了不少網友討論。一方面有觀點認為，應該由截圖的人負責，該業主已經在羣裏説了自己要用chatgpt來寫個“新聞”，截圖轉發的人沒有看上下文就轉發到公開的網絡平台，導致了錯誤信息的傳播。另一方面也有觀點認為發佈人也應當承擔責任，如果沒有發佈人的一時興起，用AI來編造了一條像模像樣的假消息，也不會造成羣內其他人的誤會。

　　早前就曾有海外研究機構對chatgpt寫作表示隱憂，擔心它將會成為謠言製造機。人工智能快速迭代所帶來的一系列倫理、道德問題要如何從法律層面應對解決，似乎也還處於探索的初級階段。2022年我國出台了《互聯網信息服務算法推薦管理規定》，首次提出來人工智能的算法應當堅持社會主義主流價值觀，不能利用算法危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益。

　　今年1月10日起施行的《互聯網信息服務深度合成管理規定》中明確，任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

　　AI技術迭代給監管帶來了新的挑戰，數據安全漏洞帶來的隱私風險如何規避，AI系統中哪些內容應該被列入高風險區，“眼見不為實”的深度偽裝要如何識別，深度偽裝造成的危害要怎麼處理，人工智能應當適用怎樣的倫理規則……2021年，歐盟委員會曾提出人工智能規則法案，日前亦有消息稱《歐盟人工智能法案》將於三月初進行討論，但該法案的推進遭遇了阻力。

　　或許就像世界上出現第一輛汽車時一樣，當第一輛汽車上路時也曾造成過無數混亂，但如今也有了完善的交通法規約束監管，車禍雖然仍然無法避免，但一場交通事故背後的權責劃分卻有法可依。人工智能新技術就像剛剛誕生的汽車，當新的監管方案也上了路，這輛“汽車”才算是穩當了。