牛津、剑桥、OpenAI联合发出AI预警《人工智能的恶意使用》附PDF报告完整版下载

越来越多的人正在享受人工智能带来的便利，但使用不当也会带来危险和伤害。近日，牛津、剑桥、OpenAI等14家机构发布报告《人工智能的恶意使用：预测、预防和缓解》：警惕人工智能被用于恶意目的。

人工智能和机器学习能力正在以前所未有的速度增长。这些技术被广泛应用，从机器翻译到医学图像分析，还有无数这样的应用正在开发中。过去，人们很少关注人工智能可能会被恶意利用的方式——这篇报告调查了人工智能技术的潜在安全威胁，并提出了更好的解决方案。我们进行分析，期望预防和减轻这些威胁，但是并不能从根本上解决问题。我们关注的是攻击者和防御者之间长期不平衡的问题，如果不提前预防，我们又将迎来怎样的攻击。

为了应对不断变化的威胁环境，报告提出了四项高级别的建议：

政策制定者应与技术研究人员密切合作，以调查预防，并减轻AI的潜在风险。

人工智能的研究人员和工程师应该认真对待他们工作的双重使用性质，允许错误的考虑因素影响研究的优先级和规范，并且在可预见的情况下，积极主动地与相关的参与者接触。

应该在研究领域中确定道德框架，这些研究领域需要更成熟的方法来解决诸如计算机安全之类的双重使用问题，以及适用于AI的情况。

积极寻求扩大利益相关方和领域专家的范围，需要有更多人参与对这一问题的讨论。