深度伪造

一、深度伪造是如何利用深度学习生成逼真虚假内容的？

1. 从数据中学习真实特征

深度伪造的核心逻辑是让模型大量学习目标人物的照片、视频、语音数据，捕捉面部轮廓、五官比例、肌肉运动、表情变化、声音频率、语调习惯等生物特征，形成一套完整的个人特征模型。模型在此基础上对目标人物的面部结构、表情动态、语音韵律、唇形同步进行数据层面的重建，而非传统修图那样停留在画面表层，因此伪造内容连贯、自然、细腻。

2. 通过自我对抗逼近以假乱真

深度伪造本质上是人工智能通过自我对抗实现逼近真实的过程。以生成对抗网络为例，生成器不断生成伪造内容，鉴别器不断尝试识别真伪，二者在同步训练中持续博弈、共同进化。经过反复迭代，当鉴别器也无法分辨生成内容时，模型便产出了人眼与算法都难以识别的结果。

3. 从专业特效走向低门槛工具

在深度伪造出现之前，影视换脸、声音模拟、虚拟演员依赖昂贵设备、专业团队和漫长后期。基于人工智能的深度伪造大幅降低了技术门槛，普通人借助开源工具即可在较短时间内完成高质量伪造内容，这也使其从专业影视特效迅速扩散到更广泛的使用者手中，带来新的安全风险。

二、生成对抗网络（GAN）在深度伪造中是如何工作的？

1. 生成器与鉴别器的对抗博弈

生成对抗网络（Generative Adversarial Network，GAN）是深度伪造最经典的技术引擎，包含生成器与鉴别器两大组件。生成器负责生成逼真的伪造内容，鉴别器负责判断内容真伪，二者同步训练、相互较量——生成器不断优化生成策略以迷惑鉴别器，鉴别器则持续提升鉴别能力以识破新手段。

2. 自编码器实现人脸共享表示

在人脸替换类深度伪造中，常用自编码器（Autoencoder）架构：一个共享编码器同时学习两张目标人脸的压缩表示，再由各自的解码器还原为对应人脸。训练完成后，将源人脸编码后送入目标人脸的解码器，即可生成"换脸"结果，保留目标人物的身份特征与姿态表情。

3. 对抗训练推动逼真度提升

生成器与鉴别器的对抗过程会持续推动生成质量提升。早期深度伪造常出现表情僵硬、边缘模糊、光影违和等问题，正是对抗训练不够充分的表现；随着训练迭代与架构改进，伪造内容在眨眼、牙齿纹理、皮肤质感等微观特征上日益仿真，检测难度也随之上升。

三、扩散模型如何用于深度伪造视频生成？

1. 逐步去噪生成目标内容

扩散模型（Diffusion Model）是近年更高保真合成的主流技术。它通过在前向过程中逐步向数据添加噪声、在反向过程中逐步去噪的方式，学习从噪声中重建出目标图像或视频。在深度伪造中，模型以驱动视频、音频轨道或文本提示为条件，迭代去噪生成目标输出。

2. 覆盖换脸之外的更多伪造形态

相比早期以 GAN 为主的人脸替换，扩散模型被越来越多地用于全身视频生成、唇形同步配音、语音克隆等更复杂的伪造任务。它能够在保持时间连贯性的同时生成自然的动态效果与细腻的细节呈现。

3. 降低可检测的边界伪影

扩散模型通常比早期 GAN 换脸产生更少的边界伪影和时间闪烁，这也是当前深度伪造视频更难被肉眼和算法识别的重要原因之一，直接推动了检测与水印等对抗手段成为研究热点。

四、深度伪造系统由哪些核心组件构成？

1. 数据与特征学习模块

负责采集并学习目标人物的人脸、语音等生物特征数据，形成个人特征模型，是整个伪造流程的基础。数据的质量与数量直接影响伪造结果的逼真度。

2. 生成与合成模块

基于 GAN、自编码器或扩散模型等架构，执行换脸、表情操控、语音合成、唇形同步等具体的伪造生成任务，是系统的核心引擎。

3. 驱动与控制模块

在面部重演、唇形同步等场景中，通过驱动视频或音频轨道控制目标人物的表情、口型和动作，实现"让一张脸说出指定内容"的效果。

4. 鉴别与优化模块

在训练阶段充当鉴别器，通过对抗反馈推动生成质量提升；在应用阶段，部分系统也集成质量评估环节以筛选更逼真的输出结果。

五、深度伪造人脸替换的技术流程包括哪些步骤？

1. 人脸检测与提取

系统首先从源视频和驱动视频中检测并提取人脸区域，进行对齐、裁剪和标准化处理，为后续的特征编码做准备。

2. 特征编码

通过编码器将源人脸压缩为紧凑的特征表示，提取身份相关的核心信息，去除姿态、光照等无关干扰。

3. 特征融合与解码

将源人脸的特征表示送入目标（驱动）人脸的解码器，重建出兼具源人物身份与目标姿态表情的伪造人脸，实现身份迁移。

4. 后处理与合成

对生成的伪造区域进行边缘融合、色彩校正、光照一致性处理等后处理，使其与原视频自然衔接，最终合成完整的伪造视频。

六、深度伪造技术能实现哪些类型的内容伪造？

1. 人脸伪造

人脸伪造是当前最成熟、应用最广的形式，包括换脸、表情操控和人脸生成，可让一个人的脸出现在另一人身上，或生成当事人从未参与拍摄的画面。

2. 语音伪造

基于语音克隆技术，仅需采集目标人物数秒的语音样本，即可习得其音色、语调、语速乃至口头禅，合成足以乱真的"本人语音"，部分开源工具已支持上传录音、输入文字一键生成。

3. 视频伪造

结合换脸与唇形同步，可篡改人物口型与神态，伪造虚假表态发言，甚至凭空虚构人物形象与完整叙事场景。

4. 全身与场景伪造

借助扩散模型等技术，深度伪造已从单纯换脸扩展到全身视频生成、虚拟场景合成等更复杂的形态。

七、深度伪造在舆论操纵和信息战中如何被利用？

1. 伪造公众人物言论

深度伪造被用于炮制公众人物、公务人员的虚假发言视频，捏造其从未发表过的表态，用以误导公众认知、煽动舆论。

2. 炮制虚假事件画面

通过合成看似真实的现场视频、监控影像，编造并未发生的事件，在社交网络快速传播，扰乱社会秩序与公共信任。

3. 实施电信网络诈骗

不法分子借助 AI 换脸、声音克隆冒充亲友、领导，通过视频通话"面对面"骗取信任，实施转账诈骗，已有大量真实案例。

4. 恶意名誉侵害

将他人肖像恶意合成到不雅或违法内容中，实施造谣、抹黑，严重侵害公民肖像权、名誉权等合法权益。

八、深度伪造检测技术的主要方法有哪些？

1. 视觉伪影分析

通过分析皮肤纹理、光照一致性、反射、边界边缘、传感器噪声等伪造痕迹识别深度伪造。这类方法对早期伪造有效，但随着生成技术进步，伪影日益细微，单独使用的可靠性下降。

2. 生理信号分析

真实人脸存在细微的生理特征，如随心跳产生的皮肤颜色微变（远程光电容积脉搏波，rPPG）、自然眨眼频率、微表情等，当前生成模型难以准确复现这些信号，据此可有效区分真伪。

3. 频域分析

GAN 等生成模型在频域会留下特征性频谱伪影，这些周期性模式在人眼不可见，但可被算法检测，是识别伪造图像的有效补充手段。

4. 多模态与产品化检测

单一方法难以应对不断进化的伪造手段，实践中多采用多模态融合提升鲁棒性。在产业侧，天御内容安全平台 已上线 AI 生成识别服务，覆盖文本、图片、音频、视频四种模态，其中图片鉴别基于图像域与频域的双模态信息，结合风格识别、频谱分析等技术挖掘生成痕迹，辅助平台对 AI 生成或伪造内容进行识别与打标。

九、多模态深度伪造检测如何提升识别准确率？

1. 融合多种信号

多模态检测同时分析音频、视频、图像、元数据等多路信号，通过加权投票或融合打分的方式综合判定，避免单一检测器被针对性绕过。

2. 校验音画一致性

通过音视频同步一致性检测，比对唇部动作与音频是否精确匹配、面部表情与语音情绪是否一致，识别换脸与唇形同步类攻击的破绽。

3. 捕捉跨模态矛盾

部分攻击只能伪造视频或音频其中之一，多模态检测可分别给出判定，识别出"视频通过、音频失败"这类局部伪造，从而发现混合攻击。

4. 结合行为上下文

在金融、通信等场景，还可引入登录异常、交易模式、渠道信誉等行为信号，即便媒体本身看起来逼真，也能识别潜在操纵风险。

十、AI 水印技术如何标识深度伪造内容？

1. 在生成源头嵌入标识

AI 水印（Watermarking）是在内容生成时主动嵌入的机器可识别信号，用于标识内容由人工智能生成或篡改。与事后检测不同，水印从源头标记内容属性，是"可识别、可追溯"治理思路的重要一环。

2. 显式与隐式双重标识

我国《人工智能生成合成内容标识办法》明确生成合成内容标识包括显式标识和隐式标识：显式标识面向公众提示内容生成特性，隐式标识在文件元数据中添加属性信息、传播平台编码、内容编号等，用于溯源。

3. 服务提供者承担标识义务

服务提供者应对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，并在下载、复制、导出时确保文件含满足要求的标识；任何组织和个人不得恶意删除、篡改、伪造、隐匿标识。

4. 水印助力事后追责

隐式标识中的水印算法、元数据格式、服务商编码等信息，能帮助执法部门在发现违法内容时快速识别来源、追踪到服务提供者或用户，实现有效溯源。

十一、自监督学习如何提升深度伪造检测的泛化能力？

1. 摆脱对标注伪造样本的依赖

传统监督学习依赖大量标注的真实/伪造数据集，容易对特定伪造技术过拟合，面对从未见过的新伪造方法时准确率大幅下降。自监督学习仅用真实视频训练，不接触实际深度伪造样本，因此对新伪造技术更鲁棒。

2. 学习自然的生理运动规律

以自监督音视频方法为例，模型在大量真实视频上预训练，学习从音频预测对应的自然面部运动参数（如 FLAME 模型用 53 个参数表示面部表情）。检测时比对视频中实际面部运动与音频预测的运动，显著偏差即为伪造迹象。

3. 兼顾鲁棒性与高检出率

自监督方法在多个基准数据集上实现了超过 95% 的平均检测准确率，并在面对新型视频生成模型伪造的内容时仍保持较高检出率，克服了早期自监督方法准确率偏低的短板。

4. 对抗压缩与噪声干扰

基于面部运动分析的自监督方法对图像压缩、噪声等失真更具鲁棒性，但通常需要大规模预训练和较强算力，目前尚不适用于实时场景。

十二、中国对深度伪造技术有哪些法律法规约束？

1. 深度合成服务管理

《互联网信息服务深度合成管理规定》于 2023 年 1 月 10 日施行，是我国首部专门规范深度合成技术的部门规章，明确深度合成技术定义，要求服务提供者对可能导致公众混淆或误认的内容添加显式标识，并在元数据中添加隐式标识，同时规定不得利用深度合成从事危害国家安全、侵害他人合法权益等活动。

2. 生成式人工智能服务规范

《生成式人工智能服务管理暂行办法》于 2023 年 8 月 15 日施行，要求提供和使用生成式人工智能服务遵守法律法规、尊重社会公德和伦理道德，不得生成虚假有害信息，并规定提供者应按深度合成规定对图片、视频等生成内容进行标识。

3. 生成合成内容标识制度

《人工智能生成合成内容标识办法》于 2025 年 9 月 1 日施行，配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（GB 45438-2025），明确所有 AI 生成的文字、图片、视频等内容须"亮明身份"，构建"源头标识—分发审核—传播核验—用户声明"的治理闭环。

4. 算法备案与安全评估

具有舆论属性或社会动员能力的深度合成服务提供者，应依法履行算法备案手续并开展安全评估；服务提供者、技术支持者均需按规定备案。

十三、欧盟《人工智能法案》如何规制深度伪造？

1. 明确深度伪造的法定定义

欧盟《人工智能法案》第 3(60) 条将"深度伪造"定义为"由人工智能生成或篡改的、与真实人物、物体、地点、实体或事件相似，并会误导观者以为其真实或属实的图像、音频或视频内容"，强调内容须冒充真实存在的事物。

2. 规定披露义务

法案第 50(4) 条要求深度伪造的部署者在内容首次暴露时，最迟向受影响自然人披露内容由人工智能生成或篡改，且披露须清晰、可辨识。

3. 透明度义务正式生效

法案第 50 条透明度义务自 2026 年 8 月 2 日起在欧盟范围内正式执行，违规主体面临最高 1500 万欧元或全球年营业额 3% 的罚款。

4. 设置艺术创作例外

对于明显属于艺术、创作、讽刺、虚构等作品范畴的深度伪造，披露义务可限于提示存在被篡改内容，且不得干扰作品的正常欣赏。

十四、深度伪造与传统视频剪辑、PS 修图有什么本质区别？

1. 作用层面不同

传统视频剪辑、PS 修图停留在画面表层的裁剪、拼接、调色、局部修饰，是对已有像素的编辑；深度伪造则从数据层面重建人物的面部结构、表情动态、语音韵律、唇形同步，属于生成式重建。

2. 逼真程度不同

传统修改易留下拼接痕迹、边缘破绽；深度伪造生成的内容连贯、自然、细腻，在微观特征上高度仿真，普通人已难以通过肉眼甄别真伪。

3. 技术门槛与成本不同

传统伪造需要专业设备和团队、成本较高；深度伪造借助开源工具和简易软件即可在短时间内完成高质量伪造，成本低、速率高、检测鉴别难度大。

4. 风险性质不同

传统修图多用于美化、创作等正当用途；深度伪造因足以冒充真实人物和事件，被广泛用于诈骗、造谣、舆论操纵等恶意场景，对个人信息权益、社会信任乃至国家安全构成新型威胁。