“三隻羊”盧某錄音系偽造，AI大模型成幕後黑手_風聞

AI技術普及帶來便利同時，也引發安全、版權等問題。AI技術工具固然可以為人類帶來諸多便利，但絕不能被濫用或誤用。

@科技新知 原創

作者丨依蔓 編輯丨蕨影

三隻羊盧某網傳錄音，竟是大模型偽造！

9月26日，安徽省合肥市公安局高新分局通報“三隻羊”盧某某錄音事件，通報中指出，經部、省專業機構檢驗鑑定盧某某的網傳音視頻系偽造，在犯罪嫌疑人王某某的電腦、手機和製作AI音頻的網站中發現偽造相關音視頻的證據。

值得注意的是，與“警方通報三隻羊盧某某錄音事件”同時登上熱搜榜單的，還有“合肥通報三隻羊問題調查情況”及“三隻羊道歉”等相關事件。合肥市監局同時也發佈了關於三隻羊直播帶貨“香港美誠月餅”等商品存在問題的詳細調查報告，並宣佈將對三隻羊處以沒收違法所得、罰款總計高達6894.91萬元的嚴厲處罰。

在此次事件中，AI偽造的盧某某相關錄音在未得到充分核實之前，無疑給正處於輿論風口浪尖的三隻羊帶來了更大的壓力。目前，王某某已被依法採取刑事強制措施，案件正在進一步偵辦中。

突然間，偽造錄音所觸發的AI安全隱患激起了廣泛的熱議。

緊接着，捲入這一事件的科技企業發佈緊急聲明。9月27日，深圳市言域科技有限公司發佈聲明，確認涉案音頻部分為嫌疑人使用該司自主研發的AI配音大模型平台克隆而成。公司已啓動內部審核機制，強化用户身份認證和音頻生成的安全管控，以確保技術的合法合規應用。

天眼查信息顯示，深圳市言域科技有限公司成立於2023年，位於廣東省深圳市，註冊資本100萬人民幣。

就該案件中提供技術的公司是否要擔責的問題，上海大邦律師事務所高級合夥人遊雲庭接受界面新聞採訪時表示，還是要看該公司是否履行平台的合規責任。“根據互聯網信息服務深度合成管理規定，如果履行了合規義務的，我覺得他們責任比較小，否則的話會有麻煩。”

伴隨着人工智能科技的迅猛推進，AI技術已然廣泛地深入到我們社會生活的諸多方面。然而，相伴而生的是越來越嚴峻的AI安全問題日益上升為人們關注的焦點。

今年6月，“男子用AI偽造學生同事近7000張裸照”衝上微博熱搜。犯罪嫌疑人是一家國內互聯網公司的技術員，巧妙運用AI技術中的“一鍵去衣”功能，深度偽造圖片近7000張，每張1.5元賣出，從中獲取了近1萬元人民幣的非法收益。

2024年年初，一家跨國公司香港分公司員工在參與一場視頻會議時便陷入了不法分子精心策劃的騙局。與會者都是經過AI 換臉與AI換聲的詐騙分子，最終公司遭受了高達2500萬美元的經濟損失。

同樣觸目驚心的案例還發生在韓國首爾大學，畢業生樸某和姜某，從2021年7月至2024年4月的3年多里，盜用女性同學、熟人的照片，用深度偽造技術換臉合成色情製品，在Telegram上建立了近200個網絡聊天室大肆傳播，受害女性多達61人。

在瑞萊智慧算法科學家陳鵬看來，人工智能技術的快速發展使得AI換臉技術，以及多媒體編輯技術等變得簡單，幾乎人人都可以輕鬆掌握。

今年，多地公安機關發佈了多起利用AI工具實施造謠的相關案件，其中最為引人注目的便是來自於某賬號發佈所謂的“西安突發爆炸”假新聞的涉事機構。經調查，該機構的負責人一共經營了5家“MCN機構”，運營賬號842個，一天就能生成4000-7000篇文章，全程基本不需要人工參與。“西安爆炸”只是他眾多“傑作”中的一個，卻通過這些賬號的轉發熱炒，演變成了公共事件，也導致機構翻車。

如今，AI文章已然形成了一條完整的產業鏈，其成本之低廉以及利潤之豐厚令人瞠目結舌。使用一個國產AI，每篇AI文章的成本是人民幣0.00138元，也就是説，只需要花費不到1分錢，就能夠生成7篇這樣的文章。以上述被查的機構為例，警方估算出的單篇文章平均收益為1.43元，每天的收入在1萬元以上。成本和收益之間差距過大，一本萬利。

如何確保這些由AI生成的內容的真實性、原創性和合規性，已經成為當前亟待解決的重要課題。AI技術的普及也加劇了版權侵權的風險，如何保護原創作者的合法權益，防止AI生成內容的濫用與侵權，成為了社會各界關注的焦點。平台儘管能對用户生成的內容進行“AI生成”等相關標註，但標註的刪除操作也相對簡單，對於AI內容的辨識效果不大。

針對利用AI進行違法行為等現象，中央民族大學法學院教授李樑上遊新聞採訪時表示，首先要對人工智能應用違法的侵權主體進行明確劃分；其次要對人工智能應用違法責任（後果）分擔機制進行構建；再次，在綜合考慮法理及社會利益的基礎之上進行科學立法，建立健全人工智能應用相關法律體系，推動技術研究及科學發展，加強監督監管機制。

技術創新的步伐不斷加快，公眾的觀念意識也必須跟上時代的步伐。AI技術工具固然可以為人類帶來諸多便利，但絕不能被濫用或誤用。