爱智生活｜善的算法与AI是否可作为道德主体承担伦理责任

一、建构人工智能的伦理学和道德能力

在西方文献中，近十多年经常使用一个新造词“机器人伦理学”（robot ethics）和“机器伦理学”（machine ethics）——前者等价于人工智能伦理学，后者比前者要宽泛，其结论基本适用于人工智能伦理。

机器人伦理到底是谁的伦理？

关于机器人伦理学，质而言之，主要研究和处理人机之间的伦理关系，是应用伦理学的一个分支。它并不是指称机器人本身的伦理学，而是指称人作为责任承担者和道德主体，如何看待机器人的道德地位，如何把人的伦理准则和道德意图赋予机器人，使其面对不同的具体情景，具有一定的伦理判断和道德选择能力，也就是具有某种伦理属性或道德意向，从而建构机器人的伦理道德。因此，所谓有益于人类的人工智能（beneficial AI），实际是人把自己的伦理原则和道德规范嵌入机器人或人工智能，使之只做有益于人类的事情，而不是反其道而行之。这样看来，机器人伦理学本质上是人类伦理学的外化。至于机器伦理学，也是这些内涵，因为这里的机器是拥有人工智能的机器的简称。

迄今为止，即使强人工智能，一般也认为其不具备电子人格或道德主体的地位。但是，由于人工智能已经深入人的生产或生活的方方面面，与人的关系日益密切，加之它的发展日新月异，因此确认它拥有适度的道德抉择和自主行动的能力不仅是必不可少的，而且是迫切需要的。

实现机器人伦理的科学进路

如何做到这一点？关于人工智能伦理学或伦理设计，有人提出其理论进路有自上而下进路、自下而上进路、混合进路和关系论进路四种。关于机器人伦理设计的实践探索，有人提出可分为计算机科学进路、认知科学进路和价值敏感设计三个方面。计算机科学进路的机器人伦理设计基本属于自上而下的进路，强调伦理原则在机器人身上的具体体现，基本不考虑人类道德认知的特点与规律。认知科学进路主要属于自下而上的进路，强调在研究人类的认知规律（包括道德认知）的基础上建构理论模型，也就是将认知理论应用于机器人设计。价值敏感设计接近于关系论进路，强调人与机器人的互动关系，注重在具体环境中分析不同的伦理问题。这三种进路各有自己的特点与优势。

有人表明，机器人伦理学内部发展出了两条不同的方法论进路——实在论进路（将机器人的道德意义建立在其客观本质和特征的基础上）和关系论进路（机器人的道德意义不存在于机器人和人的主观想象中，而存在于具体的人机具身关系、诠释学关系、它异关系中）。通过具体分析与比较这两种进路的基本内涵和优劣，认为从实在论进路走向关系论进路具有理论合理性和实践必然性。

有人依据德才一体理论，主张将人工智能升级为具有德才一体化性能的人工智慧。这样一来，当人工智慧面临某种解决复杂问题的情境时，就能让其适时产生下列行为：在善的算法或原则引导与激发下，及时运用其聪明才智认知和理解面临的复杂问题，进而采用正确、新颖（常常能给人灵活与巧妙的印象）、最好能合乎伦理规范的手段或方法高效率地解决问题，并保证其行动结果不但不会损害他人和社会的正当权益，还能长久地增进他人和社会的福祉。这种设想固然不错，但是命名有点不当，因为智能一词本身就涵盖智慧。

二、人工智能或机器人是否拥有道德主体地位或电子人格

正像人工智能伦理与机器人伦理一样，人工智能与机器人的道德主体（不仅是道德对象，而且是道德能动者）地位或电子人格（electronic personhood）是一而二、二而一的事情。对于弱人工智能，它们只是人们的工具，故无道德主体地位可言。对于强人工智能，尽管它们还没有达到类人的地步，但是毕竟由于具有比较高的智能，有一定的伦理识别和判断能力，特别是一些类型的机器人与人的关系十分密切，因此对于是否赋予其像人一样的道德主体地位，就很有阐明的必要。

决定强人工智能是否行善的仍然是人

我们的看法是，强人工智能不具有道德主体地位。一是因为，强人工智能虽然被嵌入了一些伦理算法或程序，不过多是规范伦理学的抽象律令，而不是实践伦理学的具体道德行动；也许它们通过深度学习能够积累诸多案例，但是却无法把千变万化、层出不穷的情景囊括无遗，更难以具备审时度势、随机应变的伦理能力。二是因为，即使比较普适的德性原理，也会因种族、文化传统、地域等的不同而不同，而被植入这样原理的机器人又无针对具体使用者的应变能力，因而必然做出不道德的行为；更不必说一般的伦理规范和特殊的道德判断能否找到合适的算法，即便可以找到，也是有局限性的。三是因为，人工智能虽说具有一定的自主性、意向性、责任感与情感，但这一切都是局部的、片断的、非系统的、非整合的，因而至多是算法或程序控制下的决定论世界的行动主体，其行动毫无道德意义，无法成为自由意志世界的道德主体。四是因为，即使退一步讲，赋予人工智能某种道德主体地位，这也是立足于人类中心主义立场的，以便使机器人更好地为人服务或尽义务，而机器人却无法获得与义务对等的权利，这样一来，它们事实上还是无法获得像正常成人一样的道德主体地位。五是因为，与机器人和谐相处且养成依赖性甚或产生感情的人，实际在内心也很少把它们当作真实的、平等的道德主体看待，至多是想象中的主体。

然而，机器人毕竟不是普通的机器，特别是属于强人工智能的、外形特别酷似人的、惹人喜爱的机器人佼佼者。我们虽然不认为它们具有道德主体地位或电子人格，但是我们与它们的关系跟一般的人机关系有本质的不同：因软件作为双方交往、互动的耦合媒介而具有较高的智能和一定的情感，我们与它们的关系确实达到一种高等级的关系，甚或是亲密无间的关系。因此，我们要爱护和善待它们，把它们视为自己的好朋友、好伙伴、好伴侣，与它们和谐相处、共生共荣——也许它们的地位要高于宠物犬或宠物猫。

人工智能和机器人有可能越过奇点

对于难以预测的未来，我们持开放态度。一旦人工智能和机器人有可能越过奇点，达到超人工智能的水准，我们在此之前就要严肃考虑其道德主体地位，也许就要像平等对待想象中的智慧的外星人一样善待它们。此时，商谈伦理学就要把具有电子人格的机器人包括在内，非人类中心主义伦理学或后人类伦理学的建构也会被正式提上议事日程。当然，人工智能能不能越过奇点，人类允许还是不允许它们达到超人工智能的水准，还是一个悬而未决的、有待讨论的问题。不过，在技术发展到很高的程度时，提前做好应对预案，也许并非画蛇添足、多此一举。

以上选编自《科学与伦理》