DeepSeek等大模型集體“打標”，從此告別AI造假？_風聞

“作品含AI內容”的標識成為一種標配，不知道有多少人鬆了一口氣。

9月1日，DeepSeek在官方公眾號發佈公告，表示對AI生成合成內容添加標識，並明確提醒用户相關內容由AI生成。

其他大模型廠商其實也早有動作，8月31日，騰訊元寶也在公眾號發佈了《關於AI內容標識的公告》。字節豆包、阿里通義、Kimi、智譜清言等也已紛紛更新了用户協議中與AI標識相關的內容，表示已履行AI標識相關義務，包括但不限於顯性標識和隱性標識。

在大模型廠商紛紛“打標”的背後，是9月1日起正式實施的《人工智能生成合成內容標識辦法》。該《辦法》由國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局四部門聯合發佈，要求所有AI生成的內容都要“亮明身份”。

·文本、圖片、音頻、視頻、虛擬場景等，通通包括在內；

·AIGC技術服務者、平台、用户都得遵守。

首先，AIGC技術服務者需要在生成AI內容時，就埋好隱性標識，做好“出廠蓋章”。

其次，平台識別並給AI內容添加顯式標識和隱式標識，如在內容下方標明“作品含AI內容”，做好“上架明牌”。

最後，用户在發佈和傳播相關內容的時候，不可以用任何方式刪除、篡改、偽造或隱匿平台添加的AI標識。

因此，除了大模型廠商之外，B站、抖音、快手等互聯網平台也紛紛上線相關功能，讓用户可以主動聲明AI內容，並且配以平台識別打標。

經常網上衝浪的朋友都清楚，AI標識是一場及時雨。這幾年，大家眼睜睜看着AI內容越來越多、越來越多樣、越來越真：

AI文案與文章賺着點擊，AI美女在線擦邊騙口水，AI乖孫生生把爺爺奶奶“哄成胚胎”，AI説教視頻都成了長輩的催婚利器……最可怕的是，連十級衝浪選手都驚恐地發現，昨天剛給老人做了“如何辨別AI內容”的教育工作，今天自己就中了招。

我們要麼被騙，要麼被“創”，一不小心已經走進了《黑鏡》的片場。

01

AI乖孫的魔力

很多人第一次被AI內容震撼到，是發現老人愛上AI乖孫。

本來在辦公室當着脱脂牛馬，用AI寫代碼寫方案做PPT，讓AI幫忙解讀體檢報告，在無聊的時候和AI玩角色扮演，或者用AI合成網絡模因，和AI的關係挺和諧的。

結果過年一回家，卻看到老人抱着手機憨笑，裏面傳來一陣陣“奶奶”“爺爺”的孩童甜音，**一瞅居然是平滑感十足的“六指靈童”在作祟。**發視頻的知道那是AI合成的，你也知道那是AI合成的，唯獨老人當真的看。

最絕望的是，老人不僅相信了還愛得不行，拿AI乖孫和真孫比。沒想到都已經成年了，還得遭受“看看人家孩子看看你”的折磨，況且這次把你比下去的不是隔壁小李，而是空氣。

這種震撼有兩層。一層是驚訝，你以為的“一眼假”，其實只是你以為。一層是擔憂，把AI內容被當成真的，被騙到的不僅是點擊，還可能是感情甚至金錢。

現實也確實如此。

説兩個極端例子。

一個例子是今年6月的時候，馬來西亞有一對老夫妻在網上看到一則“記者走訪”視頻。視頻中一名記者正在介紹某景區的纜車項目，於是他們説走就走，驅車4.5小時前往，卻被當地旅館員工告知根本沒有纜車。

“我向阿姨解釋説，這段影片是AI製作的，並不是真的。我在這裏土生土長，如果真有纜車，這裏一定比現在熱鬧得多。”

我們也專門找到這則視頻，畫面中有意為之的低畫質，右上角的電視台標，配上“記者走訪”這種形式和流暢的畫面，纜車悠然穿越樹林，溪流和山脈的壯麗景觀，都極具迷惑性。

雖然可以通過一些動作和行人不自然地走姿看出端倪，但要精準地傳達給一位老人“假”在哪裏，還真不容易。

另一個例子是今年3月，中國工程院院士、天津中醫藥大學名譽校長張伯禮推薦某美白護膚產品的視頻出現在網絡上，他不得不出來闢謠：這些內容全是假的。我從來沒用過這個護膚品，我也沒做過這方面的宣傳，更沒研究過，所以裏邊完全是編造的。

當時網絡上涉及他形象和聲音的假視頻在網絡上傳播的至少還有十幾條。

道理都懂，但是給老人講清楚又是另一回事，難度堪比解釋為什麼有人花三十萬買那個齜牙咧嘴的玩偶拉布布。甚至有博主專門拍攝用AI工具合成“乖孫”的視頻，就是方便大家轉發給家中老人。

辨別能力有限的不止有老人，更不只是中國用户。YouTube上一位憂心忡忡的用户就分享説，自己的孩子看了一則短視頻，是關於“遊樂場惡魔”的，嚇得不輕。她不得不費勁給孩子解釋什麼是人工智能，最後乾脆禁止孩子再用YouTube。

AI標識變為標配，無疑是對在這方面辨別能力有限的羣體的一種保護。至少可以告訴他們，凡是有“作品有AI內容”這樣的標識，就別信以為真。

02

當年輕人也無法識別AI內容

除了單純地擔憂家人之外，年輕人自己也會直接變成“受害人”。

爺爺奶奶用AI乖孫PUA你，都已經算小意思，嘗過長輩用AI催婚的人才知道什麼是真正的苦澀。

“媽媽説了這番話，我想結婚了”“不結婚的人以後有多慘”“人到中年最可怕的事是孤身一人”“不結婚的十大壞處”，不知道什麼時候開始，各種催婚視頻變成了老人的“嘴替”。

更魔幻的是，你從明顯的掉幀，以及“穿模”的牙齒，驚訝地發現如今催婚視頻都在用AI了——原視頻也許只是一段普通的街頭採訪，被人用AI一處理，就成了對口型文案點讀機。

好歹以前營銷號的催婚視頻還是真人拍攝，如今就只動動小手指用AI搞deepfake？更有甚者，直接用AI貓貓成親視頻配催婚文案，就連你家貓看了都得連連擺手，為自己的物種發聲。

真把老實人逼沒轍了，年輕人開始用“魔法打敗魔法”。

輕則讓AI支招緊急學習反催婚話術；重則用AI合成自己和光頭大金鍊子油膩男擁抱的視頻，騙長輩“已經找到對象了，勿催”；或者直接合成貓貓洗衣做飯的視頻，下次長輩再問“不生孩子老了怎麼辦”，你只需要説“請看VCR”——誰用AI不是用啊，年輕人還能自己製作，直接讓自家貓貓上場。

不過在和家長鬥智鬥力的過程中，都還是憤怒的對抗，畢竟那些催婚視頻，不管是貓貓結婚還是路人被對口型，都還是和老年人愛上的“AI乖孫”一樣，是一眼假的視頻。

當十級衝浪選手發現，連自己都會開始分辨不出AI視頻和真實視頻的時候，這一切才真的變成賽博恐怖故事。

這就不得不説到“袋鼠登機”視頻了。今年5月，一則視頻走紅網絡，獲得百萬點贊。視頻中一位女士正在和工作人員理論，她們中間站着一隻袋鼠，手裏握着登機牌，一臉無辜地看着鏡頭。

由於沒有明顯的光影、動作、肢體硬傷，袋鼠的表情又實在惹人憐愛，很多人壓根就來不及想“袋鼠能不能坐飛機”的問題，甚至注意不到女人揮舞的手露出了破綻，就衝到評論區瘋狂鍵入“好可愛呀”。

最後發現小丑竟是自己，這是一則AI視頻，甚至引來多家媒體幫忙闢謠。

不過在那之後，第三方視頻還在轉發這則視頻，而評論區依然有“蒙鼓人（被矇在鼓裏的人）”。

這種事兒對年輕人的打擊無疑是巨大的，上午還在跳腳“這麼假的AI視頻你為什麼要相信”，下午就發現自己也分不出來：我三歲玩iPad，五歲玩電腦，十二歲就已經是衝浪滿級選手，結果發現AI視頻是不長眼的，作為人類的自信心是沒有的，真與假的界限是模糊的。

好在AI標識來了，袋鼠再可愛，也別想騙我。

03

AI標識成標配，真的很有必要

AI的能力越來越強，真與假的界限在屏幕裏逐漸變得模糊，人為劃清這道界限就顯得尤為重要。

這並不容易。

正如剛剛開始實施的《辦法》，強制規範，AI生產商、平台、用户三方共同努力，意味着不留“視情況遵守”的灰色地帶，也不留“貓鼠遊戲”的空間，這樣的力度在全球都實屬罕見。

比較相似的是韓國和西班牙，前者有人工智能框架法，後者有AI標識要求，都是在今年年初的動作。

歐盟動作比較快，2024年正式公佈《人工智能法案》（EU AI Act），不過這是一個針對AI比較大、全的法案，核心是人工智能規制分級管理，將人工智能系統分為“禁止類”“高風險類”“有限風險類”與“最低風險類”，並據此提出差異化監管要求。目前法案還在逐步鋪開，強制標籤要求可能要到2026年生效。

而且這個法案並非沒遇到阻力，如8月，美國科技巨頭就是不是要自願簽署《通用人工智能行為準則》進行了表態，Meta就明確表示拒絕。

在美國本土，至今還沒有關於AI標識的全國性法規，部分州（如加州）有強制標籤要求，但聯邦層面僅有指導性的意見，而科技公司如OpenAI、谷歌、Meta等是自願支持AI水印、AI標識等措施。

“自願”可靠嗎？

在非強制性監管的環境之下，AI標識的落實也好，AI內容的控制也罷，確實不盡如人意。

最典型的就是谷歌旗下視頻平台YouTube的亂象。

雖然谷歌自己的Gemini模型早就自願加入“打水印”的行列，但是在YouTube這個平台上，AI短視頻氾濫已經到了誇張的程度，周排名裏前幾的短視頻總是AI視頻，尤其是兒童頻道，簡直就是重災區。

這些AI短視頻有的是蹩腳和無意義的，有的是貓貓狗狗配上狗血短劇劇情，還有的是生成的詭異生物/怪物在飄蕩，而最引人擔憂的則是AI短視頻講歷史講科學知識，但是錯誤百出。而且不少AI視頻賬號，會重複上傳十幾條相同的視頻。以此來多賺流量激勵。

這背後當然是利益驅使，曾有人在Medium發文，表示利用AI短視頻，5天就賺了5000美元。

而AI內容的泛濫，勢必會擠壓人類創作者的生存空間，已經有不少YouTuber製作視頻討論此類亂象，呼籲平台治理。

雖然YouTube已經表態會打擊大規模生產的、重複的AI短視頻，但是目前YouTube Shorts仍然有烏煙瘴氣之感，並沒有從根本上解決問題。

更值得玩味的是，YouTube在8月底還陷入了另一場爭議。

有創作者發現，自己的短視頻上傳到YouTube Shorts之後，質感變得很奇怪，貌似變得更清晰了，但是邊緣過度鋭利、畫面有詭異的平滑感、陰影格外明顯……換句話説，明明是真正的人類視頻，卻莫名其妙變得很“塑料”，就像AI視頻一樣。

但是同步分發到Instagram（Meta旗下社交媒體）的短視頻並沒有異常，因此懷疑YouTube擅自為短視頻做了AI增強。本來AI短視頻氾濫就很煩人了，真人視頻也強行被AI過了一手。

這件事也已經被多家美國主流媒體報道，基本上是實錘了。

用AI功能賦能創作者是一回事，不打聲招呼偷偷摸摸給統一加上一層“AI濾鏡”是另一回事，也難怪YouTuber都很生氣。

“我不喜歡我的視頻變成這樣，我更不希望我的粉絲誤認為我開始做AI視頻了。”

YouTube的這兩件事（AI短視頻氾濫和偷偷做AI增強）暴露了一個很大的問題——AI的規範只被當作科技公司的“自願”行為，是遠遠不夠的。

尤其是既做麪包又賣麪包的科技巨頭，是有原始動力多加糖、多做、多賣的，儘管它在宣傳的時候要大談健康。

未來AI視頻的數量恐怕只會越來越多。

分享兩個數據。

一個是Twicsy.com的一項研究，稱人類影響者目前的平均收入是AI影響者的46倍。這主要是因為AI內容在真實性、情感連接和信任方面仍有差距，導致贊助和廣告收入較低。

46倍感覺是人類大勝，但是轉念想想人類製作視頻的投入水平，和AI視頻的投入水平（以創作者來論），這個差距不是太大，反而是小得可怕。

另一個數據是，Business Insider的2025創作者市場報告顯示，整個創作者經濟（包括AI生成內容）在2025年已達250億美元，比2022年的164億美元增長了52%。KBV Research的報告預測，虛擬創作市場（包括AI生成的內容創作者）到2030年將達到378億美元。

如今我們是AI內容試圖混入“真實”世界，在不遠的將來，會不會反過來、我們需要在AI世界裏挑揀“真實”內容？不好説。

《辦法》正式實施，AI標識的難點仍然存在，“漏網之魚”也總會出現，明顯的AI標識甚至有可能依然阻擋不了長輩用AI視頻催婚、老人對着“AI乖孫”憨笑。

但至少先把腳抬起來了，才能邁開步子。

【直面派】原文 -- 講述值得講述的真實故事，直面生活、命運和內心