深度伪造(Deepfake)是一种合成媒体形式,它使用人工智能来创建看似真实的视频或图像。目前,深度伪造技术已被用于影视制作等各种场景,但同时引发了人们对其可能被滥用于恶意目的的担忧,如传播错误信息和操纵舆论。2022年以来,随着ChatGPT、文心一言等生成式人工智能模型的不断进步和趋于成熟,人工智能技术引发强烈关注。目前,人工智能生成的虚假音视频已经能够达到以假乱真的地步,成功实施的欺骗案例日渐增多。面对这一情形,各国已从立法、技术手段加以应对。但是,深度伪造与反深度伪造仍将是“猫追老鼠”的长期博弈,人工智能技术持续进步产生的深度伪造风险将与日俱增,需要持续关注与应对。
一、生成式人工智能模型展现出惊人能力,或扩大深度伪造的风险
领取专属 10元无门槛券
私享最新 技术干货