警惕新系统性风险 大数据和AI应被监管

来源：德国联邦金融监管局 2018年10月

作者：Felix Hufeld、德国联邦金融监管局主席

本文由亚太未来金融研究院研究团队翻译并编辑整理

编者按：

金融的核心生产资料是什么？信息和数据。与传统金融不同，以自动化方式收集和处理多维实时数据，正是金融科技的显著特征。

大数据+AI——这一金融核心生产资料的改变，驱动了金融业全新的生产力和生产关系变革。

它虽然没有改变金融的功能，但重新定义了金融服务的边界。金融服务主体从持牌金融机构，衍生到非持牌科技公司和各类平台，金融迁移至场景之中。

生产资料的变化，也改变了金融市场的角色及其关系。数据为王时代，金融机构和平台公司在激烈竞合间，力量已经变换。

洞察这场变革的挑战本身，就极具挑战。虽然技术中性，让它具备无限想象的潜力，但规制等各类基础设施的滞后，也让一些隐患彰显——

规模经济和平台经济下，数据的集中和垄断与数据孤岛并存；更多的外包合作和流程自动化，放大了风险传染的速度和能力，并让责任归属难以界定；它亦可能加剧不平等，拥有数据的平台将掌握实质的规则制定权，并带来最利己的服务歧视；算法的不透明和不可解释性，将风险隐于无形，并可能刺激不道德的使用……

这一切，在德国联邦金融监管局主席看来，正在带来新的金融系统性风险，而系统重要性机构本身，亦是一个需要重新定义的监管范畴。

——亚太未来金融研究院执行院长杜艳

十年前全球金融危机爆发，如果我们要发现即将到来的新风险，我们必须关注一个可能具有深远影响的趋势：数字化。

不容否认，数字化提供了很多机会。但作为谨慎的监管机构，我们也必须意识到风险，因此必须深入理解这一现象。

金融世界正在经历深刻的技术变革。数字网络越来越普遍，新技术正在帮助处理越来越复杂的任务。这一趋势是由大数据（BD）可用性，使用这些数据的人工智能( AI )共同推动的。

如果我们从俯瞰的角度来看BDAI（大数据+人工智能）的工作方式及其影响，很快就会明白为什么BDAI应用程序成为金融市场有效变革的驱动因素。金融服务严重依赖信息及对其的评估。借助BDAI，有可能获得越来越多、越来越精确的信息。如果这些信息胜过传统流程，利用这些信息评估的供应商将具有竞争优势。

例如，如果一家公司能够比其竞争对手更好地评估个人的信贷资质，那么它能给出更匹配风险的价格，并在长期内获得竞争优势。因此，使用BDAI可以在金融市场上产生关键的竞争优势。受监管的公司也将利用这一点，特别是用来提高效率。因此，金融监管者面临的问题是，监管是否需要调整，以及如何调整，还必须研究哪些既定原则可以继续适用。因此，我提出四个思考。

思考一：如果没有负责任的监管，算法和人不应随心所欲地从事金融。

决策制定和评估流程可能是复杂的。如果要使用BDAI，重要的是要确保决策背后的原因能够被追溯。

如果使用新类型的算法或高度复杂的算法，公司通常会快速将黑盒作为一种论据——“我没有做，是机器做的”。例如，一种创新的算法正在产生高度精确的预测，但是预测的理由及其运作的依据无法被追踪，由此，监管者无法核验。所以，上述论点对于监管者是不可接受的。公司管理委员会也不应该接受这种观点，因为这可能导致一个机能失调的商业组织。

学术界和(应用)研究领域的专家也证实，算法在使用时的可解释性和透明度非常重要，他们为此开发了流程和工具。这有可能确保复杂分析过程的可解释性。从根本上说，这是确保责任原则的先决条件。

思考二：自动化流程——如果没有适当的叫停程序，则不应使用算法决策制定流程。

如果没有适当的叫停程序，则不应使用算法决策制定流程。

在现实操作中，算法通常利用许多不同的数据流，这些数据流可能是由算法自身生成的。这可以导致自我强化的决策升级。值得一看的是资本市场的工具：自动电路制动器等技术保障措施是常见的做法。这种自动中断也可以成为算法决策过程的有用保障——除非它们被适时校准，否则错误和问题的数量可能会越来越多。

思考三：大数据和人工智能带来的新系统性风险正在上升。

有前景的流程，如深度学习，需要大量的数据，并认为数据越多越好，以便产生有效的结果，为产品和流程创新奠定基础。

如果公司不仅收集关于客户偏好的信息，还收集关于他们消费行为的信息——例如，关于他们的经常账户或其他支付账户的信息，BDAI流程带来的优势将继续增长。然后，它们的BDAI算法可以得到更精确的数据。这表明，那些有权使用大量数据(最好是金融数据)的人，在开发基于BDAI的新的、有前景的产品和服务时，具有巨大优势——特别是金融部门之外的机构。这些产品的使用反过来又有助于生成新的数据。

由于这些新的技术机会必然吸引，并且已经吸引了位居主导地位的平台提供商进入金融市场，监管者和监管机构肯定会面临各种全新的挑战。这些平台公司确实有能力重塑世界各地的消费者行为和市场结构，并可能很快变得具有系统重要性。然而，这类提供商也可能间接地变得具有系统重要性，例如，如果他们出售如何更精确地计算风险的信息，或者向金融市场上的大量参与者提供BDAI的基础设施的话。

相关风险已不再限于受监管公司的组织架构内部，而且危险还存在于无法完全识别并进行适当监管的地方。我想到了评级机构的类比例子。因此，有必要审查是否应修订监管意义上对系统重要性的定义，以及考虑到新的商业模式和市场结构，是否应采用简易措施的可能性。

监管机构具有保护消费者的授权，也需要仔细考虑其他方面的因素。这就是为什么我的第四点将致力于消费者保护和消费者权利的原因。

思考四：数据创新的监管挑战——数据货币化、数据滥用、价格歧视、隐私丧失等。

数据创新更需要消费者信任——可能较之以往更甚。

在一个由各类平台提供商服务的世界里，消费者需要意识到这样一个事实，即从授权这些公司访问他们数据的那一刻起，就给了这些公司私人生活的钥匙。通过这样做，打开了虚拟大门，允许公司就他们的健康和信贷违约风险得出结论。这里仅举几例。

当公司了解如何将金融交易数据和行为数据与客户需求和偏好的信息相匹配时，它们就可以对每个客户在特殊情况下的支付意愿和支付能力得出非常精确的结论。

在某些情况下，这可能不是一件坏事，甚至可能满足消费者的愿望或需求，因为他们提供量身定制的产品。但是，如果这些个人数据也被用于其他目的甚至被滥用，会发生什么？可接受或受欢迎的价格差异和不可接受的价格歧视之间，有一条细微的分界线。BDAI应用程序将使这种区别变得更加困难。我相信，如果出错，客户可能会失去对他们委托敏感财务数据的公司的信任。

数据泄漏也会对消费者信任产生持久的负面影响。只有当公司正确和依法使用客户数据，成功建立和维护信任时，BDAI技术才能有效地发挥其全部潜力。

这也是为什么公司会出于自身利益考虑，谨慎地考虑：即使客户已经同意，个人数据货币化所带来的价值，会在多大程度上超过公司声誉和消费者信任的潜在负面影响，即使客户已经同意使用其数据。

我希望通过数字化的各个方面的影响，以及BDAI对金融市场的渗透影响，让我们了解金融监管机构未来几年必须应对的挑战。

END

本院诚聘

研究总监

【工作职责】

1. 协助院长进行研究规划的制定和研究项目的执行；

2. 对研究项目进行系统管理和统筹；

3. 带领团队完成独立的研究项目；

4. 配合研究项目，负责研究会议的议题规划和执行

5. 进行研究产品的管理。

【工作地点】

北京

【应聘要求】

1. 硕士及以上学历；

2. 金融、经济、法律等相关专业，具备金融领域扎实的研究能力；

3. 具有研究团队管理能力和研究项目管理经验；

4. 具有金融从业经历者优先

5. 对前沿领域高度敏感并具有熟悉监管政策

【待遇】

优厚面谈

研究员/副研究员

【工作职责】

1. 独立及合作完成研究报告/课题的撰写；

2. 协助研究总监完成垂直领域研究项目管理；

3. 提出所负责领域的研究规划并执行。

【工作地点】

北京

【应聘要求】

1. 硕士及以上学历；

2. 金融、经济、法律、IT、管理、信息等相关专业；

3. 具有独立撰写深度报告的能力；

4. 具备团队合作精神和承压能力。

【待遇】

优厚面谈

学术秘书/研究助理

【工作职责】

1. 协助高级研究专家和项目组进行课题研究；

2. 独立撰写基础类研究报告；

3. 负责境内外前沿信息收集与分析；

4. 协助进行学术会议的组织和内容编辑

【工作地点】

北京

【应聘要求】

1. 具有浓厚的研究兴趣和扎实的文字功底，乐于进行团队合作；

2. 金融、法律、经济、英文、IT类专业优先；

3. 本科及以上学历；

4. 具有良好的英文能力；

5. 有学术和研究机构、金融机构、智库机构工作经历者优先。

【待遇】

优厚面谈

【反侵权声明】

亚太未来金融研究院原创作品屡遭侵权，为维护合法权益，特发表以下声明：

1、一些客户端，未经授权转载我院原创作品，是严重的著作权侵权行为，我院予以谴责及警告，并保留依法追诉的权利；

2、我院严正声明：不得在未注明出处，未取得本公众号授权的情况下对我院翻译、研究的内容进行全部或部分内容截取转载。

【编译声明】

1、由于时间所限，本文可能存在翻译不准确的地方；

2、本文不代表亚太未来金融研究院的立场，不构成投资或政策建议，内容仅供参考。