真假难辨，AI生成的潜在危害

最近，一段以美国总统乔-拜登谈论坦克的视频的篡改版在社交媒体上流传，使人以为拜登发表了攻击变性人群体的演讲。这个深度伪造的视频是使用先进的人工智能工具制作的，任何人只需点击几下就能轻松生成模仿某人声音的音频。虽然这段视频对大多数用户来说没有说服力，但它突出了利用这种技术可以制作的虚假和有害视频的问题日益严重。

专家警告说，这种工具只会增加虚假信息和仇恨言论的传播。由ElevenLabs开发的最新一代人工智能语音合成技术，允许用户通过上传几分钟的音频样本，并输入文字让它说出来，就能创造出任何人的逼真音频。虽然这项技术最初是用于不同语言的音频配音，但它很快被社交媒体用户滥用，他们分享了人工智能生成的希拉里-克林顿、比尔-盖茨和艾玛-沃特森等人的音频样本，宣读虚假和有害的言论。

此后，ElevenLabs采取了措施来遏制滥用，包括让那些提供支付信息的实名付费用户才能使用声音克隆工具。然而，该技术已被广泛采用，现在网上有免费的、具有类似功能的开源软件。这意味着，即使商业工具只提供给付费客户，仍有可能使用免费工具制造深度造假。

随着人工智能深度造假技术变得更加复杂，它变得越来越难以被发现。例如，被篡改的拜登视频使用了1月25日CNN广播中总统的真实片段，结合人工智能生成的音频，让人觉得他对变性人发表了贬低性评论。尽管大多数推特用户认出了这段视频是假的，但它仍然显得足够逼真，足以让其他人感到震惊和困惑。

专家警告说，人工智能生成的错误信息并不限于音频，因为免费的在线人工智能图像生成器也可以创建灾难和战争的逼真图像。甚至人工智能驱动的文本生成工具，如ChatGPT，可以按需生成书面内容，也被美国的一些学区封锁了。

总之，人工智能深度造假技术的兴起使歪曲现实的能力民主化，其影响还没有得到充分考虑。随着该技术变得更加复杂和容易获得，造成伤害的可能性正在增加。