牛津、剑桥等专家联合发布报告：警惕AI在未来的恶意使用

作者James Vincent

编译 Mika

本文为 CDA 数据分析师原创作品，转载需授权

当谈到人工智能所带来的危险，我们通常强调的是意想不到的副作用。我们担心可能在无意间创造了超级智能AI，但在编程中没有加入道德约束; 或者我们部署了刑事判决算法，这些算法包括了训练数据的偏见。

但这只是一方面。

但是那些想把AI用于不道德行为、犯罪或恶意目的的人呢？这些人群是否更有可能利用AI进行恶意攻击？

来自牛津大学的人类未来研究所、剑桥大学的潜在风险研究中心和Elon Musk支持的非营利性OpenAI等十四家组织机构的二十六名专家认为，以上两个问题的答案是肯定的。

在上周发布的《人工智能的恶意使用：预测、预防和缓解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)的报告中，这些学者和研究人员列举了在未来5年内AI可能给我们生活带来危害的方式，以及能够阻止这些危害的方法。虽然AI给人们带来新型的攻击，该报告的合著者，来自人类未来研究所的Miles Brundage认为，我们并不该感到恐慌或放弃希望。

“我倾向于保持乐观，我们可以采取许多措施，”Brundage认为。“这篇报告的目的并不是描述未来惨淡的前景，而意味着我们可以采取大量防御措施，并且还有很多需要学习的东西。我并不认为这是没有希望的，这篇报告更像是倡导书。”

近100页的报告内容广泛，当中重点介绍了AI将加剧数字、物理安全系统的威胁，以及创造新型危险的方式。还阐述了解决这些问题的五条建议：包括让AI工程师了解他们研究中可能存在的恶意使用; 启动政策制定者和学者之间的交流对话，避免政府和执法机构对此一无所知。

AI将减少威胁成本

其中最主要的威胁在于：AI能够让需要人工完成的任务自动化，从而大大减少攻击成本。

比如，钓鱼攻击，即某人发送其中特别设计的信息，诱使他人放弃安全凭证(比如冒充银行的电子邮件)。当中的大部分工作可以由AI自动完成，映射出个人的社交和专业网络，然后生成消息。比如通过创建聊天机器人冒充好友，向你索要邮箱密码等。

这种攻击听起来很复杂，但一旦你创建了这些软件，那么就可以反复使用，而不需要额外成本。钓鱼邮件已经带来了足够的危害，比如2014年好莱坞名人iCloud照片泄露事件，以及希拉里克林顿的竞选主席John Podesta私人邮件的泄露事件。

AI将增加威胁的新维度

第二大要点是，AI会为现有威胁增加新的维度。

比如在钓鱼攻击中，AI不仅可用于生邮件和短信，还可以用来伪造音频和视频。AI可以通过几分钟的语音来模拟目标人物的声音，甚至生成虚假的视频。这种新型的威胁形式将在未来五年成为不可忽视的问题。

AI将带来的全新威胁

最后，报告介绍了AI带来的全新威胁。当中列出了一些可能出现的场景，比如恐怖分子将植入炸弹的清洁机器人带入政府部门。机器人利用内置的视觉感应系统追踪特定的目标，当靠近目标时炸弹引爆。这利用了AI的新产品(清洁机器人)和其自主功能(机器视觉追踪)。

这些情景听起来似乎有些不切实际，但我们已经目睹了利用AI进行的新型攻击。比如用deepfakes用深度学习技术，在未经同意的情况下所合成将名人的脸合成到色情视频中。虽然目前还未出现引人注目的案例，但不法分子可以利用这种方式进行骚扰和勒索。

我们能做什么

报告中的这些例子让你不禁思考：我们能做什么？

报告中提出了五个主要建议：

· AI人员应该告知研究中可能被恶意使用的情况；

· 决策者需要向技术专家了解这些潜在威胁；

· AI领域需要向网络安全专家学习如何更好地进行系统保护；

· 需要制定AI的道德伦理框架，并严格遵循；

· 需要有更多的人的参与。不仅仅是AI科学家和决策者，还包括伦理学家，企业和普通大众。

换句话说：我们需要更多的交流以及更多的行动。

https://www.theverge.com/2018/2/20/17032228/ai-artificial-intelligence-threat-report-malicious-uses