“我们机器人2018 年会”论文：《当人工智能超越医生：由侵权所引起的对机器学习的过度依赖及如何应对》

各国对医疗事故都有相应的法律规定，有的甚至有相应的《医疗事故法》。“医疗事故法”是一种过失法，过失本身就是一种侵权行为，属于民事过错。医生可能会因未得到知情同意或违反了提供适当标准的医疗服务的义务而使患者受到伤害，从而导致医疗事故。因此，在许多医疗事故案件中，确定相关的医疗标准是一个核心问题。

也许不久的将来，机器学习（ML）产生的诊断将比人类医生做出的诊断具有更高的成功率。机器学习诊断的优势对于医疗事故法、对于医疗服务的未来、对于某些类别的医生的需求，以及从长远来看，对于医疗诊断本身的质量都将意味着什么呢？

本文认为，一旦机器学习（ML）诊断专家，如那些基于神经网络的诊断专家，被证明其表现是卓越的，现有的医疗事故法将需要更好的机器学习生成的医疗诊断作为临床治疗的标准。此外，如果不小心实施，医生在医疗诊断中使用机器学习系统的义务，可能会自相矛盾地破坏医疗事故法想要达到的安全标准。随着时间的推移，有效的机器学习可能会产生将诊断过程委托给机器的巨大的法律和道德压力。最后，类似的情况可能也会延伸到治疗。届时如果我们在数据库中收集的大部分临床结果都是机器学习产生的诊断，这可能会导致未来的决策场景不容易被人类医生审计或理解。鉴于有充分证据证明，在实际临床实践中，与初步评估相比，治疗策略的有效性往往不高，机器学习算法所带来的透明度不足，可能会导致医疗质量下降。这篇文章描述了这类场景所凸显的技术上的方方面面，尤其是涉及到诊断的，同时还深入探究了各种可能的技术和法律解决方案，使我们能够避免医疗事故法的意外后果。最后，本文强烈建议改变现有的医疗责任规则，以避免单一的机器诊断制度，并认为，对医疗标准的适当修订，需要医生在决策过程中保持实质性的参与。

本文的内容目录如下：

简介

第一章一旦机器学习系统明显超越医生，医疗事故法将要求医疗机构或医生使用此类系统

第1节机器学习

1、今日的机器学习算法

2、我们对明天的假设

第2节侵权法如何与技术变迁相融合

第3节医疗变异：惯例与“本地规则”

1、“本地规则”的衰落

2、医疗事故中的惯例遭遇技术变迁

第4节机器学习的本质消除了采用医疗新技术的常见障碍

第5节机器学习系统显著改进后，医疗事故法将要求使用机器学习系统

第二章机器学习和对专科医生的需求

第1节机器学习和诊断医师市场

第2节机器学习与去技能化论战

第三章医学上过度依赖机器学习的危险

第四章对可能的解决方案进行分类

第1节急需之物

第2节可能发生的技术和经济变化

1、要建对照组吗？

2、需要“红队”和“蓝队”吗？

3、要有备用的AI吗？

4、要鼓励透明度吗？

5、为改变激励，需要对机器学习征税吗？

6、需要对机器学习征税以支持放射科专家团队吗？

第3节法律规则的可能变更

1、要复兴“本地规则”吗？

2、需要为医疗事故法制定广义的“机器学习例外”吗？

3、需要为医疗事故法制定狭义的“机器学习例外”吗？

4、确定需要人类医生+机器学习的医疗标准

第五章结论：最差的解决方案其代价是昂贵的

如需要《当人工智能超越医生：由侵权所引起的对机器学习的过度依赖及如何应对》（英文，共57页），请发来email地址。

★

每日鲜鸡汤★

I'd rather attempt to do something great and fail, than to attempt nothing and succeed. 宁愿尝试有所作为而失败，也不愿什么都不尝试而成功。早上好！