谷歌CEO皮查伊：AI必须受到监管 不能放任市场操纵

谷歌首席执行官桑达尔·皮查伊日前撰文，认为AI将变得越来越重要，必须受到监管。公司不能仅仅只是构建新的AI技术，而放任市场力量控制如何使用它。

谷歌首席执行官桑达尔·皮查伊

腾讯科技讯 1月20日消息，据外媒报道，人工智能（AI）已成为当今科技领域的核心力量之一，正融入到社会的方方面面。但在给我们带来更多便利的同时，AI的负面效应也逐渐显现出来。 谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）日前撰文，认为AI将变得越来越重要，必须受到监管。公司不能仅仅只是构建新的AI技术，而放任市场力量控制如何使用它。 以下是皮查伊撰文的全文： 我在印度长大，始终对科技很着迷。每一项新发明都以非常有意义的方式改变了我们家的生活。电话使我们省去了去医院看化验结果的长途跋涉，冰箱意味着我们可以少花时间准备饭菜，电视让我们看到以前听短波收音机时只能想象的世界新闻和板球比赛。现在，我很荣幸能够帮助塑造新的技术，我们希望这些技术能够改变世界各地人们的生活。 其中，AI是最有前途的领域之一：就在本月，Alphabet和谷歌就如何挖掘AI潜力的三个具体例子已经出炉。《自然》杂志发表了我们的研究成果，表明AI模型可以帮助医生更准确地在乳房X光检查中发现乳腺癌；作为应对气候变化努力的一部分，我们正在使用AI来比现有模型更快速、更准确地做出即时、超越局部限制的降雨预测；汉莎航空集团正与我们的云计算部门合作，测试利用AI帮助减少航班延误。 然而，历史上有很多例子表明，我们无法确保技术总是发挥积极作用。内燃机允许人们到更远的地方旅行，但也造成了更多的事故。互联网使人们可以与任何人联系，从任何地方获得信息，但也更容易传播错误信息。这些教训告诉我们，我们需要对可能出现的问题保持清醒的头脑。 AI的潜在负面后果确实令人担忧，从深度换脸（deepfakes）到面部识别的压制性使用。虽然许多公司已经做了很多工作以帮助解决这些问题，但不可避免地会有更多的挑战出现，而没有任何单独的公司或行业可以独自应对。欧盟和美国已经开始制定监管提案，要使全球标准发挥作用，国际协调至关重要。 为了实现这一目标，我们需要在核心价值观达成一致。像我们这样的公司不能只是构建有前途的新技术，然后让市场力量来决定如何使用它。我们同样有责任确保技术得到善用，造福于所有人。毫无疑问，AI需要被监管。这项技术太重要，不能对其放任不管。唯一的问题是如何去监管。 这就是为何在2018年，谷歌发布了我们自己的AI原则的原因，旨在帮助以符合伦理道德的方式开发和使用AI技术。这些原则帮助我们避免偏见，严格测试安全性，设计时就将隐私放在首位，并使技术对人们负责。它们还规定了我们不会设计或部署AI的领域，比如支持大规模监控或侵犯人权等。 但留在纸上的原则不经执行毫无意义。因此，我们也开发了许多工具来帮助施行这些原则，比如测试AI决策的公平性，以及对新产品进行独立的安全评估。我们甚至更进一步，使这些工具和相关的开源代码广泛可用，这将使其他人能够永远善意地使用AI。我们认为，任何开发新AI工具的公司也应该采用指导原则和严格的审查流程。 政府监管也将发挥重要作用，但我们不必从零开始。现有的规则可以提供坚实的基础，如欧洲的《通用数据保护条例》。良好的监管框架将考虑安全性、可解释性、公平性和责任，以确保我们以正确的方式开发正确的工具。合理的监管还必须采取适当的方法，平衡潜在的危害(尤其是在高风险地区)。 监管可以提供广泛的指导，同时允许在不同的部门以量身定制的方式部署AI。对于有些AI应用，如受监管的医疗设备（辅助心脏监测仪），现有的框架提供了很好的起点。对于自动驾驶汽车等新领域，政府将需要制定适当的新规则，考虑所有相关成本和收益。 谷歌的作用始于认识到应用AI需要有原则性和规范的方法，但并没有到此为止。我们希望在监管机构应对不可避免的紧张局势和权衡取舍时，成为有用的、积极参与的合作伙伴。我们提供我们的专业知识、经验和工具，共同应对这些问题。AI有潜力改善数十亿人的生活，但最大的风险可能是无法实现上述目标。通过确保它以对每个人都有利的方式负责任地发展，我们可以激励子孙后代像我一样相信技术的力量。（腾讯科技审校/金鹿）