在超级人工智能出现之前，不如先想想怎么开发可信的人工智能

大家对于人工智能的态度是不一样的，有人期待人工智能改善我们的生活，也有人担心，人工智能为恶所用，给我们带来灾难。在2019年的全球新兴科技峰会上，全球副总裁 Beena Ammanath表示，她对人工智能的发展持乐观的态度，相信人工智能会帮助我们成为更好的人类。

而且，AI的发展似乎也比其它任何技术的发展都要快。她指出，人工智能的发展会经历三个阶段。第一个阶段是狭义人工智能，这个阶段的工人智能能够在象棋，围棋，玩纸牌等规则明确的任务中，取得超越人类的成绩。第二个阶段是通用人工智能，它可以完成人类所做的所有事情，它的能力水平和人类相当，能力范围除了一般任务还能涉足创造性的工作。第三个阶段是超级人工智能，这个阶段的人工智能比人类所有的智力加起来还要强大。这才是真正的人工智能。

但她同时强调，人类现在还只处于第一阶段的人工智能，我们还没有能力打造第二和第三个阶段的人工智能，因为电脑运行的方式和人脑还有很大的差别。人脑的构造异常的复杂，在人类看来十分简单的任务，让电脑去执行就非常的困难。在现在的电脑构造上面模拟人脑的运行是一项极具挑战性的任务，但是一旦实现了超级人工智能，它将具有世界上最聪明的人的集体智慧。

Beena Ammanath用一个比喻说明了人工智能对人类的重要性：如果把蒸汽机的发明是对人类肌肉力量的解放，那么人工智能就是对人类大脑的解放。

17世纪以前，人类的科技发展十分地缓慢，直到蒸汽机的发明后，人类的解放力得到了解放，生活生产方式发生了巨变，工厂有了批量的生产，货物实现了大范围的运输。而现在我们正在经历着一场新的革命。这场革命的主角人工智能将能够解现阶段的问题，比如防治癌症和预防饥荒。

过去的一百年发生了天翻地覆的变化。如果我们去看1917年和2017年这个识字率，在1917年大概是23%，到100年之后的2017年，它提高到了86%，而汽车的价格在1917年是400美元，现在平均是35000美元。在1917年的时候，只有8%的家庭有电话，而现在几乎没有人出门不带手机。

1917年，灯的开关是当时最主要的发明，到了2017年，最主要的技术发明是基因编辑。这个技术帮助我们重新编辑、定义人的生活和寿命。我们之前听到了很多，100年后人们的生活会变成什么样子，可能1917年的人没有办法想象我们现在的世界，但是现在的我们可以确定，100年后一定是人工智能大行其道的世界。

“而在实现超级人工智能的道路上，我们首先要打造出可以信赖的人工智能。” Beena Ammanath说到。

首先是透明度。人工智能的模型在做决策的时候，是否可以解释成我们能听懂的东西，我们需要人工智能是可解释的，是可以理解的，这样才可以真正信任人工智能系统。

其次是公平。我们在人工智能的数据集中要尽可能减少偏见。因为很多时候，人也是有偏见的，这是由我们的背景、文化、经历决定的。把这种偏见编进了人工智能的代码之中，它就会造成很多负面的影响。

然后是责任，如果人工智能的发展到达了一定的规模，如果它的表现与起初的设计冲突，谁来负责呢？是开发者吗，做测试的人，设计师，还是发行人工智能版本的公司？我们应该有合适的控制机制，避免这些系统发生错误。

她还指出，人工智能的安全性也值得关注。我们怎么能保证所有的数据集都是安全可靠的，万一有漏洞，受到了攻击或者黑客的胁持该怎么办。

治理也是一个重要的方面。我们目前是否有相应的政策，保证我们有合理的治理机制。如果人工智能的系统出现了差错，我们应该如何治理以防差错扩散到整个社会。

“我的信念是这样的，只要我们走在正确的道路上，那么人工智能就会和人共同合作，共同存在，而不是属于竞争的模式，我相信人工智能可以帮助我们解决非常大的挑战，比如说治愈癌症、应对气候变化。” Ammanath说。