一周热点 第25期

编者按：

AI 治理是当前政治发展的崭新话题，本期一周热点挑选５篇 AI 治理的相关研究，与读者一起探讨 AI 与国家治理的互动关系、AI 治理的秩序困境与治理原则，AI 治理的技术逻辑、风险挑战与公共政策选择，以及AI 全球治理等问题，希望能够促进 AI 治理相关研究的交流与学习。当然，有关 AI 治理的精彩研究不止此处所述，由于篇幅原因不再一一列举，有赖于感兴趣的研究者深入研究，更离不开政策制定者的实践推动。

20 世纪 50 年代兴起的人工智能技术现已扩展到社会生活的方方面面，而在人类历史发展长河中，任何一场新的革命性科学技术突破都会给政治领域带来不可忽视的巨大影响（刘波，2018）。崭露头角的人工智能技术体系将会赋予人类社会新的组织形态、生存空间、社会主体和行为模式，并且弱化传统线下多层国家权力结构和单向治理模式（刘波，2018），进而走入新的治理模式—— AI 治理。 AI 治理主要包括两方面：第一，人工智能本身成为治理对象，其发展与应用构成了治理挑战，在此基础上如何做出公共政策选择是未来治理变革的方向（贾开、蒋余洁，2018）；第二，人工智能为治理变革提供了新的治理理念与治理工具，使得治理体系可能突破传统治理和互联网治理，构建运用人工智能的新的治理体系。作为一种新的政治现象， AI 与治理之间的结合有着无限的想象空间，其体现了从传统治理、网络治理、大数据治理进一步发展的无限可能性与现实可行性，伴随着围绕 AI 治理而开展的研究与实践的不断推进，从基本原则到具体规范体系将逐步构建。

AI 治理体现了一种新型的治理关系——人工智能与国家治理之间的关系，那么人工智能是如何影响国家治理的，其影响又主要体现在何处？

人工智能与国家治理之间是一种互动关系：一方面，人工智能发展的技术段位从根本上决定了其影响国家治理得可能范围与程度；另一方面，国家对人工智能得态度选择则从实际上决定了其影响国家治理的机会与空间。这种互动关系决定了人工智能对国家治理的影响是有限度的，但正是这种互动性也带来了丰富的想象空间。其中，从信息基础、政策运行、组织协同等维度，可以预判人工智能的发展和应用将影响中国国家治理信息基础的完整性、准确性、新鲜性和国家治理政策制定的科学性、政策执行的有效性、政策评估的准确性以及国家治理央地、部门、政社之间的协同性。（《人工智能如何影响国家治理：一项预判性分析》，梅立润，武汉大学政治与公共管理学院博士研究生）

那么，在 AI 与国家治理的互动下，如何在以数据、算法为主体的应用环境中，构建与传统普遍建立在科层制基础上的公共事务治理结构不同的新的 AI 治理体系和治理工具来应对伴随人工智能发展而兴起的新的经济、社会、政治问题呢？

首先需要明确的是人工智能带给现有治理模式的秩序困境以及构建 AI 治理模式的原则，从而为 AI 治理的发展奠定基础。

进入 AI 新时代，人工智能的应用逐渐广泛，人们对其依赖程度越来越高，依赖范围也越来越广。虽然 AI 带来了诸多便利，但是人类既有的认知、伦理、法律体系和治理体系也正面临着前所未有的挑战——安全困境、法律困境、伦理困境、决策困境等社会危机和秩序困境逐步凸显。如何合理规避可能的风险，应用人工智能造福人类的问题，已经越来越重要。对此，国家和政府需要探索全新的治理理念和治理形式，实现治理体系和治理能力的跨级飞跃：从传统治理到互联网治理再到 AI 精准治理。并且政府、市场和社会组织等多元主体要携手合作、共同参与，在坚持 AI 精准治理的四大原则——创新、适度、平衡和多元的前提下，构建多层次、多样化的新型AI治理模式。（《AI治理：人工智能时代的秩序困境与治理原则》，庞金友，中国政法大学政治与公共管理学院教授、博导、副院长）

其次，在明确了 AI 治理的秩序困境及其治理原则之后，还需进一步在了解AI 治理的技术逻辑、风险挑战的基础上，构建出综合性的公共政策框架。

人为决定的算法和数据是人工智能发展逻辑的基石，这同样是治理的对象和关键。人工智能带来了经济、社会、政治各领域的基础性和综合性变革，同时也引发了治理领域的挑战：传统科层治理结构应对人工智能新的生产模式的滞后性、建基于行为因果关系之上的传统治理逻辑应对人工智能新主体的不适用性，以及人工智能发展所引发的新议题的治理空白。为了迎接这些挑战，需要更多地依赖于公共政策选择。各国现有政策所遵循的“无需批准式监管”或“审慎监管”逻辑固然有其合理性，但却局限于“创新”与“安全”的二维选择而失于片面。对此，需要一个综合性公共政策框架：建立并完善围绕算法和数据的治理体系与治理机制；创新社会治理机制并完善社会保障体系；构建全球治理机制并构建人工智能时代的“人类命运共同体”。（《人工智能治理的三个基本问题：技术逻辑、风险挑战与公共政策选择》，贾开，电子科技大学政治与公共管理学院讲师；蒋余浩，清华大学公共管理学院博士后）

而伴随着未来人工智能技术的大面积使用和在全球范围内蔓延和扩散，新的全球性公共问题应运而生，如何构建新的全球性人工智能治理体系也需提上日程。

人工智能的发展所带来的风险与挑战具有世界波及性、影响的地区不均衡性、伦理标准的区域差异性和危害预测的知识不充分性，由此形成全球性公共问题，人工智能的全球治理问题应运而生。人工智能的全球治理依赖于国家政府、政府间国际组织、非政府组织、企业等多元主体的参与，建立以法律法规、伦理规范和政策体系为基础的全球治理机制，构建一个多利益相关者合作协调和资源共享的多边主义合作治理体系。而中国作为走在人工智能技术发展前沿的国家，应充分把握在人工智能全球治理中的制度性话语权，积极参与人工智能全球治理平台构建和维护国家主权在治理中的地位，为人工智能全球治理贡献中国智慧。（《人工智能全球治理：基于治理主体、结构和机制的分析》，陈伟光，广东外语外贸大学国际战略研究院教授；袁静，广东外语外贸大学商学院副教授）

最后，在构建 AI 治理体系过程中，需要秉承着审慎创新的态度，重视人工智能阴影笼罩下的秩序困境，尤其是那逐步浮出水面的伦理问题，实现技术治理与伦理治理的有机结合，达到真正的“智治”。

随着社会中大部分的公共决策被笼罩在人工智能阴影下，一系列伦理问题随之浮出水面：首先，社会将面临个人隐私的终结，在搜集充足的相关信息后，人工智能将变得“比你更了解自己”，从而在很大程度上消除个体行为的不确定性，通过信息推送控制每个人的生活。其次，由于人工智能洞悉每一个人，它就可以对公民价值进行“赋值”并将这些分值作为决策依据，在类似“汽车失控”和“择路逃生”两个思想实验中所描述的规则模糊的情境中，人工智能有可能基于数理逻辑自创规则，最终做出违背人类伦理的选择，而这最终关涉人的价值和意义。为了在不远的将来，人工智能能够在面对复杂情境时做出合乎人类道德的决策，政府至少可以在“消除信息歧视、发展机器伦理、建立熔断机制、进行伦理审查、防止计划体制”等五个方面开展抑恶行动，从而在智能社会获取治理合法性。（《人工智能阴影下：政府大数据治理中的伦理困境》，柳亦博，讲师，山东师范大学国家治理研究中心理论研究部主任）

最近，中国提出要加强人工智能同社会治理的结合，开发适用于政府服务和决策的人工智能系统，运用人工智能提高公共服务和社会治理的水平。人工智能技术和 AI 治理已经受到了政策制定者的关注与肯定，一系列的治理实践将逐步开展。而目前来说，绝大多数人工智能研究侧重于关注人工智能本身的技术性特征和应用，并且人工智能的政治学、行政学、公共管理学等学科视野和话语较为缺乏（梅立润，2018）。因此，对 AI 治理以及与人工智能相关的政治理论还需进一步的探索与研究。

责任编辑：lj

文章来源（按编辑顺序）：

《湖北社会科学》，2018年08期

《人民论坛·学术前沿》，2018年10期

《中国行政管理》，2017年10期

《国际观察》，2018年04期

《行政论坛》，2018年03期