AI觀察｜美國出台首個聯邦人工智能監管法案【走出去智庫】_風聞

走出去智庫（CGGT）觀察

4月28日，美國國會眾議院通過《刪除法案》（TAKE IT DOWN Act），旨在打擊未經同意在網絡上發佈色情圖片和視頻的行為，其中包括人工智能生成的“深度偽造”材料。該法案預計由美國總統特朗普簽署成法律，將是其第二任期內首部重要的互聯網及AI監管法律。

走出去智庫（CGGT）觀察到，雖然該法案旨在打擊“色情報復”以及遏制“深度偽造”技術帶來的種種危害，但它所承載的意義遠不止於此。該法案被廣泛看作是美國在規範互聯網公司發展道路上邁出的關鍵且重要的一步，長期以來，美國眾多互聯網公司憑藉着技術和市場優勢，巧妙地逃避監管，在數據隱私保護、內容審核等諸多關鍵方面存在諸多漏洞與問題，該法案有望改變這一現狀，促使互聯網公司承擔起應有的社會責任。但部分人擔憂其條款可能限制言論自由，過度干預網絡生態，因而對此表示反對。

《刪除法案》將帶來哪些影響？今天，走出去智庫（CGGT）刊發一篇分析文章，供關注互聯網和AI監管的讀者參考。

要點

1、這是美國多年來第一部直接監管網絡內容的法案，也是第一部聯邦層面的人工智能監管法案。它表面上是在處理隱私和色情剝削問題，本質上則是在聯邦層級首次針對生成式人工智能（特別是深度偽造技術）濫用行為專門立法，並設定了具體的責任、處罰和執法機制，是美國首個生效的AI治理法案。

2、這次《刪除法案》的再啓動其實是典型的逆風而上：特朗普政府正強調去監管，科技行業對白宮的影響力前所未有地增強，美國副總統萬斯在巴黎AI峯會和慕安會等各種場合剛強調了言論自由、反對AI監管。但儘管如此，法案還是以驚人的速度迅速推進。

3、特定網絡內容入罪和“通知-刪除”機制，無疑還直接觸及了憲法第一修正案，引發了對法案合憲性的合理疑問。

正文

4月28日晚，美國國會眾議院以409:2壓倒性通過了《刪除法案》（TAKE IT DOWN Act），並提交特朗普簽署。特朗普和第一夫人梅拉尼婭早就明確支持通過該法。在白宮舉行的特朗普就職百日發佈會上，發言人萊維特開場就宣佈：“這項重要立法由第一夫人親自倡導並引導通過，總統期待立即簽署它”。所以，該法案成法生效已是板上釘釘。

《刪除法案》的核心內容，如果總結成一句話就是：把發佈未經同意的私密露骨影像（Non-consensual Intimate Imagery, NCII，俗稱“報復性色情”）的行為定為犯罪，並要求科技平台限時48小時刪除相關內容，否則將被聯邦貿易委員會（FTC）處罰。

這是美國多年來第一部直接監管網絡內容的法案，也是第一部聯邦層面的人工智能監管法案。它表面上是在處理隱私和色情剝削問題，本質上則是在聯邦層級首次針對生成式人工智能（特別是深度偽造技術）濫用行為專門立法，並設定了具體的責任、處罰和執法機制，是美國首個生效的AI治理法案。****當然，需要明確的是，該法案只管特定領域的AI濫用（深偽色情），不是歐盟AI法案那樣的綜合性監管框架，比起我國的《生成式人工智能服務管理暫行辦法》切口也要更窄。換言之，法案管的是“用AI做了壞事的結果”，而不是對AI技術開發過程、模型訓練過程等進行直接規範。但這一小步，卻是美國AI監管頗具突破意義的一步。

整個法案的內容可以拆解為“刑事定罪“+“通知-刪除”兩個版塊：

一、刑事定罪

1、故意發佈未經同意的私密影像構成犯罪

《刪除法案》修改了《1934年通信法》，明確禁止故意發佈未經他人同意的私密影像。這裏所説的“私密影像”，不僅包括真實拍攝的照片或視頻，還包括用人工智能或其他技術製作的、看起來和真人無異的合成影像。無論是直接拍攝還是數字偽造，只要影像中能識別出受害者的面容或特徵，且未經其同意被髮布，就屬於違法行為。

如果發佈的是成年人的私密影像，需要滿足幾個條件才構成犯罪，比如影像是在當事人有合理隱私期待的情況下拍攝的，不是公開場合展示的內容，也不是公眾關心的事務，同時發佈該影像的行為要麼是出於傷害意圖，要麼實際造成了心理、經濟或名譽上的傷害。而針對未成年人的私密影像規定更加嚴格，只要發佈者是為了羞辱、騷擾、貶低，或滿足性慾，即構成犯罪。

不過，法律也列出了一些例外情況。比如，執法或情報機關依法進行的調查使用影像時，或出於善意向警方舉報、在法律程序中使用、醫學教育等正當目的下披露影像，不算違法。此外，如果受害者本人自願發佈自己的私密影像，或影像屬於兒童色情等更嚴重犯罪範疇，則適用其他專門法律。

2、發佈AI合成的數字偽造影像同樣違法

除了真實拍攝的內容，使用AI或其他技術偽造出的假冒私密影像，同樣受到法律禁止。如果未經當事人同意發佈了這些高度逼真的合成影像，同樣需要滿足一定條件，比如不是本人在公開場合展示的，不是公眾關注事項，並且發佈行為帶有傷害意圖或實際造成傷害，才會構成犯罪。但涉及未成年人的合成色情影像，無論目的為何，只要有辱罵、騷擾、滿足性慾的意圖，就直接違法。

這些規定也有例外，和上面已經提到的一樣，但如果影像涉及兒童色情或兒童性虐待表現，無論是否存在同意，都會受到更嚴厲的處罰。

3、違法發佈私密影像的處罰

如果違法發佈成年人的私密影像或合成影像，最高可被判罰款和兩年監禁；如果發佈的是未成年人的，則最高可判三年監禁。法院在判決時，還可以命令沒收用於發佈違法影像的材料、非法獲利和相關工具。

此外，發佈影像之外，單純威脅他人説要發佈也屬於犯罪。威脅發佈真實影像的，適用正常處罰；威脅發佈數字偽造影像的，如果對象是成年人，最高判18個月監禁，如果是未成年人，則最高30個月監禁。

法院也可以責令違法者向受害者支付賠償。同時，法案特別強調，就算當事人曾同意拍攝影像，或者曾把影像發給別人，也不等於同意被公開發布。

二、數字平台的“通知-刪除”義務

1、在法律生效後一年內，所有受監管的網站、社交平台或應用，必須建立一套流程，讓受害者可以舉報自己的私密影像未經本人同意被上傳的情況，並要求平台刪除這段影像。一旦接到舉報，平台要在48小時內刪除相關內容，並盡力清除所有副本。

2、受害者提交請求時，需要提供：1）個人的手寫或電子簽名（確認是本人或授權人）；2）明確説明是哪段內容被濫用了，提供能幫助平台快速找到內容的線索；3）簡要説明為什麼相信這段影像是未經自己同意發佈的，並提供相關背景信息；4）聯繫方式，方便平台核實或反饋。

3、平台必須在網站或APP上明顯位置展示清晰説明，比如通過一個簡單易懂的網頁鏈接，告訴用户：1）平台對於處理私密影像的責任是什麼；2）用户如何提交舉報和刪除請求。這些説明要用簡潔、易懂的語言，不能複雜晦澀，讓用户難以理解。

4、善意免責：即如果平台是基於善意判斷，相信某段影像是未經同意發佈的，因此選擇刪除或者限制訪問，即使最終發現那段內容是合法的，平台也不會因此被追責或被索賠。

聯邦貿易委員會負責執法，監督各大平台認真執行“刪除違規私密影像”的義務。平台如果拖拖拉拉，或者直接拒絕受害者的刪除請求，就會被認定為搞欺詐，違反了《聯邦貿易委員會法》。一旦被抓住，不僅可能被調查、罰款，還可能被強制整改。委員會可以動用它手裏的一整套執法武器來處理這些違規平台，無論是一般企業還是非營利機構，只要觸犯規定，都逃不過。

過去，美國在科技監管方面一直是雷聲大、雨點小。無論是管人工智能、平台責任，還是搞反壟斷改革，國會總是談得熱鬧，真到了立法的時候就老是卡殼。即使是對深偽色情這種深度偽造技術應用，國會也是多次嘗試予以規制卻無功而返。比如，紐約民主黨眾議員、現在民主黨的少壯派AOZ和南卡共和黨眾議員Nancy Mace就曾聯合推出的《反抗法案》（DEFIANCE Act），賦予受害者起訴權；還有Dick Durbin、Josh Hawley等議員提的配套法案，最後都因行業反對而夭折。

直到2024年6月，才由參議員Ted Cruz推出了《刪除法案》的第一個版本，7月眾議院也跟進了配套文本。雖然法案在參議院修訂後，於12月初通過，但因為政府停擺，眾議院來不及審議。原本想趁年末打包進預算案，但預算案又被否決，法案被擋了下來，只能等到第119屆國會重新來過。2025年1月，Ted Cruz以參議院商務委員會新任主席的身份，再次提交了《刪除法案》，參議員Amy Klobuchar也參與了共同提案。

這次《刪除法案》的再啓動其實是典型的逆風而上：特朗普政府正強調去監管，科技行業對白宮的影響力前所未有地增強，美國副總統萬斯在巴黎AI峯會和慕安會等各種場合剛強調了言論自由、反對AI監管。但儘管如此，法案還是以驚人的速度迅速推進。****

在參議院提出《刪除法案》幾天後，眾議員Maria Salazar和Madeleine Dean也在眾議院提出了配套版本。這次，參眾兩院都有大批兩黨議員聯署支持——眾議院有41位，參議院也有20多位。因為上屆國會已審議過一次，這回推進得異常順利。法案提交後不久，參院直接跳過了常規的委員會審查流程，2月13日以全票一致通過。眾議院的進展也十分順利。在眾議院能源和商務委員會的審議中，法案以49票贊成、1票反對的結果通過。隨後，眾議院在不進行辯論的情況下，通過“暫停規則”程序迅速表決通過了該法案。

前臉書、推特、谷歌政策顧問Nu Wexler曾經形容，在美國要推動一項科技監管法案成功，需要“天時地利人和”，而《刪除法案》可能正好踩準了所有條件。

首先，近年來生成式人工智能廣泛應用，大幅降低了製作高度逼真深度偽造色情內容的門檻，導致此類侵害隱私的影像激增，對受害者造成了嚴重的心理、名譽和經濟傷害，社會反應很大。儘管美國幾乎所有州都立法禁止“深偽色情”，但各州法律標準不一，執法不均，受害者往往難以及時要求平台移除影像。因此，支持出台聯邦統一法案的呼聲很高，科技界、政界、公益組織幾乎是一邊倒支持。

一直對AI監管和平台規制比較牴觸的主要互聯網科技公司和社交媒體平台，這次也都公開支持法案。一些平台的負責人甚至直接參與法案的推廣。應當説，平台企業也有自己的算盤：有個統一的聯邦標準，總比各州對深度偽造和“報復色情”搞“碎片化”立法要好得多，如果一定要立法，那平台們肯定更想要一個聯邦法，這樣合起規來也容易地多。此外，反對這樣一項旨在保護女性和未成年人免遭色情剝削的法案，公眾輿論和道德形象顯然是很差的。

其次，或許是最重要的一個因素，是這項法案獲得了第一夫人梅拉尼婭·特朗普的力挺。****《刪除法案》和梅拉尼婭長期關注的兒童和青少年網絡安全議題高度契合，成為獲得她支持的關鍵。特朗普第一任期，梅拉尼婭發起了名為 “Be Best” 的倡議，主打的三大主題之一就是“兒童網絡安全”，特別是青少年在社交媒體上遭遇網絡欺凌、騷擾、虐待，以及因隱私被侵犯、被傳播不當內容而造成的心理傷害。而《刪除法案》的核心，就是要打擊未經同意的私密影像（包括青少年受害人）的網絡傳播，防止深偽色情內容擴散，對梅拉尼婭來説無疑很容易形成價值認同。

自Ted Cruz重提法案以來，**第一夫人辦公室就深度參與了整個立法進程。**參院通過《刪除法案》後，梅拉尼婭親自出席了Ted Cruz和Maria Salazar組織的一場跨黨派圓桌會，和“報復色情”、深偽色情受害者一起發聲，呼籲國會加速通過法案。她不僅發表了演講，還邀請一位15歲的受害女孩作為貴賓出席並分享自己的經歷，跟其他幾位受害者也進行了私下交流。據媒體報道，梅拉尼婭在私下聽取受害者經歷時多次動容，眼眶泛紅。她向工作人員表示：“每一個受害者的故事，都讓我更加堅信我們必須立法。”她還直接建議特朗普在國情諮文演講中特別提一下《刪除法案》，明確總統對法案的支持。後來特朗普確實照辦了，還半開玩笑地説：如果可以的話，我自己也會用這項法律保護自己，因為我是受深偽傷害最多的人之一。

不過，對《刪除法案》也有一些批評和質疑。像電子前沿基金會（EFF）就擔心這個法案可能會傷害到言論自由，甚至給特朗普這種政治人物一把新武器，讓他們有機會去打壓批評者。民主與技術中心（CDT）也提了警告：法案搞了個“通知-刪除”的機制，可能不只是刪除那些真正未經同意的私密影像，還會順帶把一些本來合法、正常的內容也刪掉。這樣一來，很可能會踩到憲法紅線，變成對大家自由發言的打壓。

還有人特別擔心加密通訊。比如WhatsApp這種聊天工具，消息是端到端加密的，平台自己都看不到內容。要是有人在加密羣組裏發了違規影像，即使受害者舉報，平台也沒辦法不破壞加密就刪掉。這樣一來，平台要麼違規挨罰，要麼就得動手破壞加密，最後倒黴的可能是所有用户的隱私。技術專家們指出，目前《刪除法案》沒有明確豁免加密平台，也沒想好在加密環境下怎麼操作，是個明顯的漏洞，以後很可能還得靠補充立法或者新技術手段來把這個問題補上。

****在《通信規範法》****230條之後，美國已經很多年沒有通過限制平台內容的國會立法。《刪除法案》大幅強化了平台對未經同意的私密影像的刪除義務，有點像是走歐盟《數字服務法》的路徑，和230條的避風港規則形成了一定張力。****而且法案也沒有像版權領域那樣設立反通知機制，平台為避免風險可能傾向於“先刪後問”，擴大刪除範圍，損害網絡言論自由。合規層面，大型平台可能是有準備，但中小平台和加密通訊應用面臨很大壓力，有可能導致誤刪合法內容或為了合規犧牲用户的通信隱私。

不過，法案畢竟沒有開放就深偽色情內容對平台的民事索賠渠道，也保留了善意刪除的免責機制，終歸堅持了230條的基本價值，只能説是極其有限的調整而非根本背離。此外，平台託管兒童色情、未經同意的私密影像，本來就因屬於230條的例外而不享有民事責任的豁免，實際上又和230條的旨趣、要保護的利益是對齊的。

特定網絡內容入罪和“通知-刪除”機制，無疑還直接觸及了憲法第一修正案，引發了對法案合憲性的合理疑問。****這也是一些反對法案的人的論點之一，覺得法案可能迫使平台為規避風險而“過度刪除”，限制合法表達，並且因為缺乏反制濫用的機制產生壓制言論的效果。還有人警惕未來政府可能以類似法律擴大對網絡言論的審查範圍。

從第一修正案的先例看，合法的成人色情內容（即成年人自願參與、製作、傳播的色情作品）也受憲法保護，例外非常狹窄：只有兒童色情（Child Pornography）和真正的猥褻內容（Obscenity），其中似乎不包括“報復色情”。但美國最高法院的先例一貫認為，極端有害的內容，比如兒童色情、淫穢猥褻言論，以及直接與犯罪有關的表達，不受第一修正案保護。大部分深偽色情或“報復色情”（特別是涉及未成年人或性勒索）實際上屬於犯罪的一部分，即使不完全構成言論自由的例外，也因社會價值極低，可以依法禁止。換言之，《刪除法案》針對的是幾乎沒有表達價值的內容，不影響新聞報道或合法的成人內容，立法目標是防止人格權侵害而非打擊觀點，符合”內容中立“原則，應該可以通過嚴格審查。****

來源：東不壓橋研究院

法案原文：https://www.congress.gov/119/bills/s146/BILLS-119s146es.pdf