國家安全部：警惕！AI助手的“陰暗面”！

數字化時代，人工智能（AI）正逐漸滲透到千行百業和日常生活中，推動經濟社會高質量發展。值得注意的是，AI工具若被不法分子利用，會對我關鍵數據、基礎設施、社會秩序造成損害，成為威脅國家安全的“隱形武器”。

虛假信息的“投毒者”

AI技術中的“深度偽造（Deepfake）”能力是“深度學習”與“偽造”的結合，人工智能的深度學習算法能夠進行自動化的數據處理，從而實現圖片、音頻和視頻的智能模擬和偽造。該技術用於影視、遊戲、廣告等行業，可創作出更多逼真、有趣的虛擬角色和場景，翻新娛樂體驗。然而，一旦被濫用或惡意使用，將給個人合法權益、社會穩定和國家安全帶來諸多安全風險和挑戰。國家安全機關工作發現，某境外反華敵對勢力通過深度偽造技術生成虛假視頻，企圖向境內傳播，誤導輿論、製造恐慌，對我國家安全構成威脅。

關鍵信息的“竊密者”

從簡單的文字生成，到複雜的多模態創作，生成式AI的強大學習能力令人矚目。AI的學習和決策過程依賴於大量的數據，決定了AI工具可能收集並存儲用户輸入的信息。據公開報道，因開源庫發生故障，某境外AI模型的部分用户可以看到其他活躍用户聊天記錄中的標題甚至是名字、支付地址等隱私信息，造成個人信息泄露。如果不注意防範，相關人員信息數據可能成為境外間諜情報機關實施拉攏策反、滲透破壞活動的指引，造成國家安全風險隱患。

意識形態的“挑撥者”

AI算法注重知識的重組、創造和輸出，如果人為對其進行有偏見性的數據導入和算法重構，可能會演變為偏見性意識形態輸出，成為境外反華敵對勢力煽風點火的重要武器。特別是在社會熱點事件的前期，因事件自帶流量，在情況尚不明朗、公眾情緒累積時，AI生成的謠言往往“趁虛而入”，炮製虛假信息，誤導公共輿論，造成惡劣影響。國家安全機關工作發現，個別西方國家和境外勢力通過批量操縱賬號，在社交媒體大肆發佈特定觀點或情感化內容，妄圖利用性別對立、勞資糾紛等議題，對我進行滲透破壞、污衊抹黑，進而破壞我社會穩定。

國家安全機關提示

面對人工智能技術發展帶來的新機遇和新挑戰，需要前瞻研判相關風險，提高國家安全意識和自我防範意識，共同築牢維護國家安全的人民防線。

——提高法治思維。近年來，我國出台《生成式人工智能服務管理暫行辦法》等部門規章，發佈《人工智能安全治理框架》等，在法治軌道上加強人工智能治理。公民應主動學習相關法律知識，遵守相關產業標準、技術標準和行業規範，推動人工智能技術良性健康發展。

——加強宣傳普及。多措並舉加強公眾對人工智能的認識與理解，提高公眾對人工智能安全性的認識，提升對信息的辨識與分析能力，讓公眾瞭解在使用AI技術過程中可能面臨的風險，提高警惕意識、繃緊防範之弦。

——增強辨別能力。對於人工智能生成的內容，應培養批判性思維，提高真偽信息的辨別能力，未經核實的內容堅決不迷信、不轉發、不擴散。使用AI工具時，切勿將個人隱私信息、重要成果、涉密或未公開文件上傳至AI平台；限制AI工具權限，禁止非必要應用獲取個人通訊錄、相冊、地理位置等關鍵信息。

廣大人民羣眾如發現人工智能服務提供者和使用者有任何危害國家安全和利益的行為或線索，可通過12339國家安全機關舉報受理電話、網絡舉報平台（www.12339.gov.cn）、國家安全部微信公眾號舉報受理渠道或者直接向當地國家安全機關舉報。