點擊關注公眾號
當前位置：新聞中心 >
國家安全機關提示：謹防深度偽造魔改陷阱
謹防深度偽造魔改陷阱
生成式人工智能技術的突破性進展，正推動AI視頻制作加速普及，在提升創作效率、活化歷史記憶等方面展現出巨大潛能，成為數字時代的內容生產利器。但技術若被惡意用于金融欺詐、政治滲透、謠言制造、間諜竊密等非法活動，將侵害公民合法權益，甚至擾亂社會秩序、危害國家安全。
深偽魔改暗藏“雷區”
——偽造權威，動搖公信力。境外間諜情報機關、各種敵對勢力可能利用深度偽造技術，捏造虛假言論、偽造公務人員不當視頻、炮制虛假政策畫面，以此制造社會恐慌、撕裂輿論、抹黑國家形象，沖擊政治安全與制度安全。
——精準詐騙，侵害公私財產。不法分子可能利用深度偽造克隆親友、客服等聲音面容，實施冒充轉賬、虛假投資、仿冒官方渠道詐騙等非法活動。更有甚者，企圖通過偽造企業公告、專家言論，引發市場波動。
——信息泄露，危害數據安全。不法分子可能利用深度偽造人臉、聲紋等生物特征，突破身份認證、權限校驗等核心數據防護機制，造成賬號被盜、后臺入侵、敏感數據批量泄漏，甚至引發關鍵信息基礎設施安全系統失控等重大安全事件，對數據安全造成危害。
國家安全機關提示
《互聯網信息服務深度合成管理規定》明確，任何組織和個人不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等活動。具有輿論屬性、社會動員能力的深度合成服務，必須依法備案、內容審核、實名管理、合成標識，禁止刪除篡改標識；嚴禁未經授權使用人臉、人聲等生物識別信息進行惡意編輯。
技術本身并無善惡，關鍵在于如何使用。面對深偽技術，每一位公民都應自覺增強安全意識、提升辨別能力、遵守法律法規，以實際行動維護國家安全和網絡清朗。
——提高辨別能力。理性看待網絡信息，不盲目輕信不合常理的音視頻、圖片內容，遇到可疑信息優先通過官方渠道核實真偽。
——自覺遵守法律。合理合法使用各類AI生成、圖像編輯、音視頻處理工具，不參與、不支持制作、傳播有害虛假信息。
——維護網絡文明。自覺抵制各類有害內容，不隨意轉發未經證實的信息，如發現AI視頻平臺或作品存在可能危害國家安全的問題線索，可通過12339國家安全機關舉報受理電話、網絡舉報受理平臺(www.12339.gov.cn)、國家安全部微信公眾號舉報受理渠道或者直接向當地國家安全機關進行舉報。
