新型AI工具可检测无面部深度伪造视频

新型AI工具可检测无面部深度伪造视频

在篡改视频可能传播虚假信息、欺凌他人和煽动危害的时代，加州大学河滨分校研究人员开发了一种强大的新系统来揭露这些伪造内容。

电子与计算机工程教授Amit Roy-Chowdhury和博士候选人Rohit Kundu与某机构科学家合作，开发了一种人工智能模型，能够检测视频篡改——即使篡改远不止于换脸和修改语音。

他们的新系统名为通用篡改和合成视频识别网络（UNITE），通过检查不仅仅是面部，而是包括背景和运动模式在内的完整视频帧来检测伪造。这一分析使其成为首批能够识别不依赖面部内容的合成或篡改视频的工具之一。

"深度伪造已经进化，"Kundu表示，"它们不再只是关于换脸。人们现在使用强大的生成模型创建完全伪造的视频——从面部到背景。我们的系统就是为了捕捉所有这些而构建的。"

UNITE的开发正值文本到视频和图像到视频生成技术在线广泛可用之际。这些AI平台使几乎任何人都能制作高度逼真的视频，对个人、机构和民主本身构成严重风险。

"这些工具变得如此容易获取令人担忧，"Kundu解释说，"任何具备中等技能的人都可以绕过安全过滤器，生成公众人物说他们从未说过的话的逼真视频。"

Kundu解释说，早期的深度伪造检测器几乎完全专注于面部线索。

"如果帧中没有面部，许多检测器根本不起作用，"他说，"但虚假信息可以以多种形式出现。改变场景背景同样容易扭曲真相。"

为了解决这个问题，UNITE使用基于Transformer的深度学习模型分析视频片段。它检测细微的空间和时间不一致——这些线索往往被先前系统遗漏。该模型利用名为SigLIP的基础AI框架，提取不绑定特定人或对象的特征。一种名为"注意力多样性损失"的新颖训练方法提示系统监控每帧中的多个视觉区域，防止其仅专注于面部。

其结果是一个通用检测器，能够标记各种伪造——从简单的面部交换到复杂的、完全合成的视频，这些视频没有任何真实镜头生成。

"这是一个处理所有场景的单一模型，"Kundu说，"这就是它通用的原因。"

研究人员在2025年纳什维尔计算机视觉与模式识别会议（CVPR）上展示了他们的发现。由Kundu领导的论文《走向通用合成视频检测器：从面部或背景操作到完全AI生成的内容》概述了UNITE的架构和训练方法。

与某机构的合作为模型训练提供了广泛的数据集和计算资源，使其能够在各种合成内容上进行训练，包括从文本或静态图像生成的视频——这些格式经常难住现有的检测器。

虽然仍在开发中，但UNITE可能很快在防御视频虚假信息方面发挥重要作用。潜在用户包括社交媒体平台、事实核查机构和新闻编辑室，它们正努力防止篡改视频传播。

"人们有权知道他们看到的是否真实，"Kundu说，"随着AI在伪造现实方面变得更好，我们必须更擅长揭示真相。"