何渊：基本原则和法律责任部分——欧盟议会的全球首个“关于制定机器人民事法律规则的决议”

Source article：

【导读】腾讯研究院：欧盟是以法律理性保障公民权利的典范，对新技术和新事物的立法和监管探索，走在世界前列。但创新与监管历来存在紧张关系，需要维持一种平衡状态。人工智能有望引领新技术革命，对人类社会方方面面产生重大影响，其监管应当包容、审慎，结合实际发展和应用逐步探索。

【概要】腾讯研究院：2017年2月16日，欧盟议会投票通过一项决议，就制定《机器人民事法律规则》提出具体建议，并要求欧盟委员会提交关于机器人和人工智能民事责任的法律提案。决议提出诸多制度：成立统一的机器人和人工智能监管机构；针对更高级的机器人建立登记制度；引入电子人格以促进自主智能机器人（尤其是无形AI）的登记、保险和管理；提出强制保险、赔偿基金等新的责任规则；提出伦理原则和《机器人宪章》以保障负责任的创新；针对计算机和机器人生成的可版权作品界定“独立智力创造”标准以明确AI智力成果的知识产权保护。

欧洲议会2017年2月16日，关于机器人民法规则的决议（2015/2103（INL））

基本原则

T. 阿西莫夫定律应当可以直接适用于具有自主性和自我学习能力的机器人的设计者、生产者和操作者，尽管这些定律并不能被转换成机器代码;

U. 包括法律责任，透明度和问责制的一系列规则是有效的，这说明了作为欧盟对世界贡献的人类普世价值是必要的；而这些规则有效的前提是不影响和阻碍机器人研究、创新和发展的进程;

V. 为了型塑技术革命，以便更好地为人类服务，使先进机器人与人工智能带来的利益能够在整个欧盟得到广泛共享，同时为了尽可能避免潜在的隐患和风险，欧盟应当积极拟定机器人和人工智能的发展、规划和使用等方面应遵守的基本道德原则，并最终将这些原则融入到联盟条例和实施规则之中；

W.“机器人宪章”附在本决议的附件中，该决议是在STOA和欧盟议会研究服务机构的协助下制定的，他们建议启动制定“机器人工程师道德行为守则”，研究伦理委员会守则以及设计师的“许可”制度和用户的“许可”制度。

X.为了确保不扼杀创新，对于今后的机器人和人工智能的具体行动，欧盟应采用让·莫内提倡的渐进式、务实和审慎的工作方式，

Y.鉴于机器人和AI发展的阶段，从民事责任问题入手是合适的;

法律责任（主体资格）

Z.由于过去十年的令人印象深刻的技术进步，今天的机器人不仅能够执行过去是只能由人才能完成的活动，而且还发展了某些自主和认知能力 - 例如，从经验中学习并做出准独立决策的能力，这使它们在外在环境交互方面和改造能力方面，越来越与人类具有相似性；而在这样的背景下，如何合理分配机器人侵害行为产生的法律责任成为了一个非常关键的问题;

AA.机器人的自主性可以被定义为在外部世界中独立于外部控制或影响而进行决策和实施的能力;而这种自主性是纯粹的技术性质，其程度取决于机器人与外在环境交互过程中的复杂性;

AB. 机器人的自主性越多，其他参与者（如制造商，运营商，业主，用户等）越不能把机器人看成简单的工具。反过来必须考虑的是，在机器人的作为或不作为不能归责于某个特定自然人的情况下，以及在不能确定机器人的作为或不作为是否可以避免造成伤害的情况下，关于责任分配的传统法律规则直接适用于机器人是否充分，或者是否有必要提供全新的原则和规则呢？

AC.最终,应当以是否具有特殊的性征和含义为标准，来判断是根据现有的法律类别，还是应该创造一个新的类别来确定机器自主性的法律属性。

AD.在目前的法律框架下，机器人本身不能对造成第三方损害的作为或不作为承担责任;当机器人的作为或不作为的原因可以追溯到特定的自然人或法人（例如制造商，操作者，所有者或用户），并且机器的代理人可以预见和避免机器人损害行为的发生;同时，机器人所有者或使用者能够为机器人的作为或不作为承担严格责任，只有以上三者完全符合的情况下，现有的责任规则才能适用于机器人的侵害行为。

AE.根据现行的产品责任法律框架，产品生产者应对产品故障和有害行为承担责任，产品使用者应对其致害行为负责 -这同样可以 适用于由机器人或AI造成的损害行为;

AF.在机器人可以自主决策的情况下，传统的规则并不能适用于机器人造成损害而引起的法律责任问题，因为不能确定到底哪一方当事人需要承担赔偿责任，以及由谁应当对机器人自主行为引起的损害承担赔偿责任；

AG. 现行法律框架在合同责任方面的缺陷也是显而易见的，因为传统规则并不能适用于能够自主选择缔约对象、自主对合同条款进行谈判、自主订立合同、自主决定是否以及如何履行合同的机器人。这就需要一套能够适用于市场上最新出现的技术发展和创新的全新法律框架。

AH. 关于非合同责任，第85/374 / EEC号指令只能涵盖机器人制造缺陷造成的损害。同时，受害人必须能够证明实际损害、产品缺陷和实际损害之间因果关系。在这种情况下，严格责任或无过错责任可能就不能适用了;

AI. 尽管第85/374 / EEC号指令有一定的适用空间，但只要机器人具有适应性和学习能力，它们的行为具有一定程度的不可预测性，那么目前的法律框架不足以涵盖新一代机器人造成的损害。这是因为这些机器人会自主地从自己不断变化的经验中学习，并以独特和不可预见的方式与环境相互作用;