AI虛假帶貨“圍獵”銀髮族：如何遠離“賽博陷阱”？

【環球網科技報道 記者 鄭湘琪】“我正躺在病牀上輸液呢，能去我櫥窗買個東西麼？”“立春養生啊，最應該吃這些，包治百病……”短視頻平台上，這樣的情景屢見不鮮。然而，仔細觀察就會發現，部分主播的表情與動作略顯生硬，口型與聲音時有不匹配，甚至還有些塑料感。

“AI靳東”“AI張文宏”“AI雷軍”……迅猛發展的AI煥新了千家萬户的生活，激活了千行百業的“動脈”，但卻有這樣一羣不法分子濫用AI進行虛假宣傳甚至詐騙。他們運用AI換臉技術，假冒知名人士、醫療專家，扮演“孝順兒女”“苦情人設”進行直播帶貨，誘騙老年人購買一系列非必需商品，嚴重損害了老年人的合法權益。

第55次《中國互聯網絡發展狀況統計報告》顯示，截至2024年12月，我國網民規模中，50歲及以上網民羣體佔比提升至34.1%，其中60歲以上佔14.1%，互聯網進一步向中老年羣體滲透。當銀髮族在數字浪潮中踉蹌前行，如何幫助他們跨越“數字鴻溝”，遠離AI“温情陷阱”？

“AI專家”們想掏空銀髮族錢包

2024年底，偽造的“AI張文宏”直播帶貨蛋白棒，不少老年人信以為真轉發到家族羣，一時銷量近1200件。而這並非孤例，在社交平台搜索“AI”“保健品”“老年人”等關鍵詞，一大批網友分享的真實案例隨之湧現，一個收割“養老錢”的灰黑產業鏈已然形成。

在這些灰產“操盤手”花樣翻新的“套路”下，治理的“工具箱”亟待擴容。今年全國兩會上，全國人大代表，TCL創始人、董事長李東生表示，近年來，我國相關立法雖有關注這一議題，但已出台的規章制度尚不成體系，還不具備可操作的細則和明確的處罰標準。據此前報道，當前我國雖然制定發佈了《生成式人工智能服務管理暫行辦法》等多部規章政策，但監管仍滯後於AI技術發展。

而作為信息傳播的重要載體，平台層面的監管尚存漏洞。知名經濟學者、工信部信息通信經濟專家委員會委員盤和林告訴記者，“AI降低了虛假內容製作門檻，但其實AI偽造帶貨視頻的問題不在於AI，而在於發佈者。利益驅使發佈者實施違法行為，而平台對內容審核又不到位。很多平台能夠用算法發現AI合成內容，那麼這些漏網之魚是如何送達老年人面前的？只能説，平台的監管精準度還不夠。”

北京市康達律師事務所執業律師趙一翰也談到，部分深度合成服務提供者沒有遵守《互聯網信息服務深度合成管理規定》第十六條及第十七條，未在相關的信息內容上添加標識以向用户提示深度合成情況。另一方面，AI換臉技術開展直播帶貨的行為發生頻繁且數量巨大，直播平台若缺乏高效的技術識別手段，將很難短時間內全部審核完畢，這就會導致老年人容易暴露在AI偽造帶貨視頻下。

同時，更不容忽視的是，作為互聯網“原住民”，很多年輕人早已練就出甄別AI生成內容的“火眼金睛”。而銀髮族“觸網”較晚，對網絡技術和規則瞭解有限，風險防範意識相對薄弱，更容易被情感綁架、權威背書等手法精準擊穿心理防線。

如何**讓“數字鴻溝”變為“護老屏障”

面對AI濫用“坑老”的困境，多方為銀髮族共築“防火牆”已成共識。從頂層設計來看，2025年全國兩會期間，多位代表委員呼籲立法整治AI“換臉擬聲”。

比如李東生代表建議，加快人工智能深度合成內容標識管理規章制度的出台，明確對人工智能深度合成服務商未履行標識義務的懲罰制度，完善未按要求進行標識的行為界定、分類細則，以及相應的處罰標準。加強深度合成內容標識技術標準和發佈的管理，保證標識的有效性，對相關內容平台出台要求，用户在發佈深度合成的視頻、音頻等內容時，有義務對其進行標識。

令人感到欣慰的是，就在近日，國家互聯網信息辦公室等四部門聯合發佈《人工智能生成合成內容標識辦法》。據悉，辦法聚焦人工智能“生成合成內容標識”關鍵點，通過標識提醒用户辨別虛假信息，明確相關服務主體的標識責任義務，規範內容製作、傳播各環節標識行為，將於2025年9月1日起施行。

此外，壓實平台方的審查責任、加大對通過AI偽造視頻發佈者的懲處力度也勢在必行。盤和林強調，“現如今我們應該有一條大原則，那就是虛假的AI換臉視頻，誰發佈，誰承擔責任。當然，如果AI換臉並非是惡意，那麼這屬於當事人雙方之間的範疇，但如果明顯的以AI換臉獲利，那麼這就應該是警方需要介入的案件。個人認為，要從重從快處理此類案件。平台也需要通過新技術和人工審核結合的方式，對內容進行有效審核。”

更重要的是，如何幫助老年人增強“防騙免疫力”？趙一翰認為，可以通過社區宣傳、反詐APP案例推送，提升老年人對AI換臉技術開展直播帶貨行為的警惕性以及對AI換臉技術的辨識能力。老年人及親友也應提高自身維權意識，在發現AI換臉技術開展直播帶貨行為存在虛假或誤導性宣傳時，可及時向平台或相關部門舉報。

公安部網安局用四個關鍵詞教網友如何識別AI謠言，即查源頭，警惕無明確作者、無正規信源的內容；看細節，觀察手指數量異常、光影不自然等，注意口型與聲音不同步、背景模糊扭曲；驗邏輯，AI生成謠言常出現時間矛盾；用工具，通過權威渠道進行查證。“查源頭”“看細節”“驗邏輯”“用工具”四大法則同樣適用於老年人防騙場景，值得銀髮族學習。

科技進步與人文温度從來不是對立命題。當AI一路狂飆，我們也該慢下腳步，讓老年人不“掉隊”、不迷失。隨着AI合成技術不斷消解真實與虛構的邊界，人類唯有將科技向善的基因注入算法肌理，方能守護數字時代的每一份信任與尊嚴。而相關部門、網絡平台、親友及全社會的合力“圍堵”，正是抵禦這場銀髮族“AI圍獵”的最堅實盾牌。