“AI生成”不是法外之地 專家：情節較重可被判有期徒刑

前不久，某網絡平台上出現一條所謂“懷化35歲女子從28樓跳下”的視頻，其中不僅有時間、地點、事件、人物等新聞要素，而且還有事件發生時的所謂現場畫面，該內容一經發布就引起了不少關注。這段看似有模有樣的網傳視頻，真實的情況到底是什麼呢？

湖南懷化網警在日常巡查中發現，一條“懷化35歲女子從28樓跳下”的視頻在網絡傳播，視頻的配文中還標註了高空墜亡事件、家庭悲劇等標籤，該視頻一經發布迅速引發熱議，先後獲得數萬次轉發。

然而，懷化警方在調查中卻發現了諸多疑點，首先，從該視頻中的建築物外立面可以看出，所謂事發地並不是懷化市；另外，視頻中主播的聲畫錯位情況非常明顯。

湖南懷化市會同縣公安局網絡安全大隊民警 閆宏輝：經懷化市公安局核實，當日沒有發生類似視頻墜樓警情，我大隊接線索後立即開展調查，快速鎖定發佈視頻嫌疑人員。

湖南懷化市會同縣公安局連山派出所教導員 蒙源：經過我們的縝密偵查，發現違法嫌疑人禹某的住址，隨即我所民警對禹某進行了抓捕。

據禹某向警方供述，為了快速提升自己賬號的關注度，她通過在某AI平台輸入“高空墜樓、家庭悲劇”等關鍵詞生成視頻片段，並經過二次剪輯後發佈到網上。

警方調查發現，在禹某使用的這個AI平台上，關於“悲劇模板”的使用率非常大，每月的下載量超過10萬次。

嫌疑人禹某：我當時看到別人用AI做視頻漲粉很快，就想跟風試試。平台裏有現成的悲劇模板，輸入關鍵詞就能生成畫面。我根本不知道隨便發這種視頻會違法，更沒想到會給那麼多人帶來恐慌。

截至警方查處時，禹某發佈的虛假視頻已經引發大量關注，嚴重擾亂了社會正常秩序。懷化警方依法對禹某作出了相應的行政處罰。

博主為博流量 用AI編造某企業不實信息

除了剛才這起利用AI工具編造謠言的案例之外，上海警方前不久也破獲了一起利用AI工具編造企業不實信息的案件。

警方查明，自媒體博主姚某、陳某等人為了吸粉引流，利用AI工具蒐集素材，在未做核實的情況下，生成所謂“某茶飲企業使用過期原料被罰款”等不實內容，併發布到網上，不僅嚴重侵害了企業的權益，還造成了惡劣的社會影響。

前不久，上海某茶飲企業向警方報案稱，多個自媒體平台出現大量針對該企業及其創始人的不實信息，接報後，警方立即成立專案組開展偵查。

上海市公安局長寧分局網安支隊民警 陳昱汀：我們針對100多個自媒體賬號進行溯源，謠言裏面有提到使用過期原料被罰款20萬元的事情，還有很多不實內容。

警方通過溯源發現，其中一則不實信息的發佈者為自媒體從業人員姚某，為了增加賬號文章的瀏覽量和廣告收益，姚某花費了800元在網上找到了盧某為其代筆。

上海市公安局長寧分局網安支隊民警 陳昱汀：他找到了代理人盧某，盧某也沒有自己編寫文章，而是利用AI軟件自動生成了一篇文章，也沒有經過核實再發還給了姚某。

在收到盧某的這篇文章後，姚某未做核實就發佈在了自己的賬號上，其中關於某企業所謂“使用過期原料被罰款”的內容被大量轉發，不僅嚴重損害了企業品牌形象，還導致部分區域門店單日營業額同比下降超20%。

同樣是涉及該企業的不實信息，陳某等人為了獲取平台對閲讀量的現金補貼，從網上搜集了各類關於該企業創始人的傳言，通過AI工具“洗稿”後生成了相關不實內容併發布在網上，獲得了較高的閲讀量。

上海市公安局長寧分局網安支隊民警 陳昱汀：通過這樣的方式，在自己的自媒體賬號上面發佈熱點文章，來博取眼球蹭熱度，漲粉以獲得廣告收益等等，或者可以通過這個賬號獲取直播帶貨的權限。

據瞭解，發佈涉及某茶飲企業不實信息的8名犯罪嫌疑人，目前已被上海長寧警方依法採取刑事強制措施。

利用AI生成發佈虛假信息屬於違法行為

在網絡上發佈利用AI生成的不實信息觸犯了哪些法律法規？會相應受到什麼處罰？北京航空航天大學法學院副教授趙精武做了以下解讀。

趙精武表示，利用AI工具生成、發佈和傳播網絡虛假信息的，屬於明顯的違法行為，依據相關法律，情節較輕的將受到罰款、拘留等處罰；情節較重的則可能被判處有期徒刑。

此外，信息發佈平台、服務提供者也可能承擔相應的法律責任，因為根據《人工智能生成合成內容標識辦法》的相關規定，這類主體負有對生成內容添加“AI生成”等內容標識的法定義務，倘若其怠於履行該義務，監管機構則可以依法採取警告、責令限期改正、暫停信息更新、行業禁入等行政處罰和懲戒措施。