谷歌和一些公司合作建立自我否定的人工智能系统

优步和谷歌的研究人员正在对两种最流行的深度学习框架进行修改，这些框架将使他们能够处理概率问题。这将为最聪明的人工智能程序提供一种方法，来衡量他们对预测或决策的信心，知道他们何时应该怀疑自己。

在过去的几年里，深度学习已经取得了巨大的成功，使机器能够几乎完美地识别图像中的物体或转录语言。深度学习包括向一个强大的神经网络提供实例数据。但是它需要大量的训练数据和计算能力，而且它可能会非常脆弱。

有些与直觉相反，这种自我怀疑提供了一个解决方法。在涉及自动驾驶汽车和其他自动机器人的关键场景中，这种新方法可能很有用。

在谷歌工作的Dustin Tran说:“你会喜欢一个系统，它能让你知道它是如何确定的。”“如果一辆自动驾驶汽车不知道它的不确定性，它就会犯致命错误，这将是灾难性的。”

这项工作反映了人们认识到不确定性是人类推理和智力的一个关键方面。剑桥大学(University of Cambridge)教授、优步(Uber)首席科学家Zoubin Ghahramani说，将其添加到人工智能程序可以让他们更聪明，更不容易出错。

随着人工智能系统在越来越多的关键场景中被使用，这可能会被证明是至关重要的。“我们希望有一个坚实的深度学习框架，但让人们更容易表现出不确定性，”Ghahramani最近在加州长滩举行的一个大型人工智能会议上对我说。

在同一场人工智能会议上，一组研究人员在一个下午聚集在附近的一家酒吧，讨论优步(Uber)发布的一种新的编程语言——Pyro，该语言将深度学习与概率编程结合在一起。

在长海滩上举行的聚会是由斯坦福大学教授诺亚·古德曼组织的，他也隶属于优步的人工智能实验室，他的头发卷曲、蓬乱，衬衫上没有纽扣，很容易被误认为是瑜伽老师，而不是人工智能专家。在与会者中有Tran，他也为Pyro的发展做出了贡献。

古德曼解释说，深度学习处理概率的能力可以使它在很多方面变得更聪明。举例来说，它可以帮助一个程序从几个例子而不是成千上万个例子中得到一个合理程度的肯定。提供一种确定的方法，而不是一种“是”或“不”的回答，也应该有助于构建复杂的系统。

虽然传统的深度学习系统只能从它所提供的数据中学习，但是Pyro也可以用来构建一个预先编程的系统。这在机器学习可能出现的任何场景中都很有用。

古德曼说:“如果你事先知道你想要建立模型，概率编程特别有用。”“人们会用Pyro做各种各样的事情。”

爱德华是另一种包含不确定性的编程语言，这一语言是哥伦比亚大学开发的，由DARPA资助。Pyro和Edward都还处于开发的早期阶段，但不难看出为什么Uber和谷歌会感兴趣。

优步在无数领域使用机器学习，从路由驱动到设定高峰期定价，当然还有自动驾驶汽车。该公司已经在人工智能领域投入了大量资金，聘请了一些研究新想法的专家。谷歌已经在人工智能和深度学习的基础上重建了它的整个业务。

哥伦比亚大学(Columbia University)的统计学和计算机科学教授大卫•布莱(David Blei)表示，将深度学习和概率编程结合起来是一个很有前途的想法，需要更多的工作。“原则上，它非常强大，”他说。“但有很多很多技术上的挑战。”

然而，正如古德曼指出的，Pyro和Edward对于在人工智能领域将两所相互竞争的学校整合在一起也很重要，其中一所专注于神经网络，另一所专注于概率。

近年来，神经网络学校一直占据主导地位，其他的想法都被抛在脑后。为了前进，这个领域可能需要接受这些其他的想法。

古德曼说:“有趣的是，你不必把这些夏令营看作是独立的。”“他们可以团结在一起——事实上，他们在一起——我们现在正在建设的工具。”

你甚至可以说，他们正在变得更聪明，一部分是通过学习他们不知道的东西。