谣言问题在本次疫情期间,成为了中国社会关注焦点之一,而欧美对假信息的关注更早:自2016年俄罗斯“愚人农场”(troll farm)涉及以假信息操纵美国总统大选之后,虚假信息就成为了各路技术集团与网络安全组织的眼中钉。金融时报近日报道,“合成文字”(readfakes)信息造假技术已经有了比较长足的进步。“合成文字”造假是近年来继“深度造假”(deepfake)后,涌现出的一种假信息制造新方式——通过人工智能AI,而不是人来生成文本信息。
资深虚假信息专家Camille François表示,目前用这种方式编写的完整电子邮件还不太能够令人信服,但部分内容已可称“合理”甚至“顺理成章”了。相比数年前AI制造的“猴子敲键盘”式信息,AI产生的虚假信息,有效性正在不断增长。另外,相比三四年前该技术的高成本、秘密性而言,现在这一技术已经相当容易获得。目前已经有包括研究人员、信息打假人员、政策联盟与AI技术公司在内的很多群体,都在竞相寻找对以“合成文字”方式制造出的假信息的解决方案。非营利性技术集团Meedan的首席执行官 Ed Bice表示,目前打假存在的问题在于,“打假斗士”们需要越来越全球化的思路,甚至需要横跨多种语言进行工作。
目前,面对逐渐自动化、AI化的谣言制造,辟谣者们手中的工具也还没能跟上:美国海军网络战专家Pablo Breuer表示,迄今为止,自动化系统由于语义、语音与习语问题,还没有办法胜任与“编写假信息”相对应的审阅工作。
ANBOUND结论:假新闻利用AI技术完成是客观存在的。
领取专属 10元无门槛券
私享最新 技术干货