人工智能可生成以假乱真的假新闻 未来或存在大量输 出风险

本文由腾讯数码独家发布

在撰写令人信服的新闻报道方面，人工智能的能力正在变得越来越强了，这让它的创造者开始怀疑自己是否应该发布这种技术。

据报道，伊隆·马斯克的OpenAI已经开发了一种有趣的算法，只需一些只言片语作为起点，它就能生成任意主题的假新闻，并且读起来相当令人信服。

实际上，这项算法最初只是被设计成一种通用的语言AI，可以回答问题，总结故事和翻译文本。但研究人员很快意识到，它还可以被用在更加阴险的目的上，比如大量输出虚假信息。

因此，根据MIT Technology Review的报道，该团队只计划向公众提供这种人工智能的“简化版本”。

所幸的是，这项技术目前还存在一些不完善的地方。它经常会写出抄袭、或者只是在表面上看有凝聚力的故事，成功率并不高。但OpenAI项目研究者Jack Clark警告说，开发出一个有能力稳定输出假新闻的系统可能只需“一到两年”。而等到那时，想要反驳这些新闻的真实性将需要彻底的事实调查。

这就是核心问题所在。虽然OpenAI会恪守道德准则，不会故意进行假新闻的生成和传播，但其他组织是否同样会守规矩就很难说了。

而另一个更大的担忧是，一个不道德的（或不知情的）公司或敌对政府可能会开发一个强大的人工智能来进行大规模的假新闻传播。社交网络在打击假新闻方面取得了一些成绩，但如果有机器大量产生错误信息，他们可能会无力招架。