首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

算法对司法的帮助与局限

作者:刘哲

在一个座谈会上,一个技术人员说现在我们研发了很多智能辅助软件,替代了目前30%的司法工作量,以后我们会慢慢提升到70%,甚至更多。算法慢慢就可以替代很多司法官的工作,从而从根本上解决案多人少的问题。

我当时就反驳:

30%是怎么得出来的?

说你们帮助很大,你问问基层司法官现在更累了,还是更轻松?

从人类历史的整体上看,我们发明了很多设备软件,代替我们做了很多机械性的重复劳动,但是我们与过去比是更忙,还是更轻松?

虽然机器和算法替代了我们做了一些机械性的工作,但是很多需要创造性的工作是难以替代的。而且这样的工作会越来越多,因为我们面对的社会和情景越来越复杂。

不是活儿越来越少了,而是活儿的重心和内容改变了。

就像对案件的实质化判断和出庭工作,这种要求人的综合素质和创造力的工作,短期内是难以替代的,而且随着以审判为中心和庭审实质化的要求,其工作量是越来越大了。这是为什么我感觉并不轻松的原因。

不是机械性的工作不做了,人就没事了,人要做更多富有创造性的工作,这种工作压力更大、难度更大。

认为算法可以替代人现有工作量的占比越来越高,就最终可以替代人的思维,本质上是一种线性思维。

如果检察官可以被替代,就意味着法官也可以被替代,那就不再有司法存在,人被抓过来算法直接判决有罪,直接服刑完了?

如果那样的话,也不仅是司法,所有人都将会被人工智能取代,人就完全替代了。但是现在的人工智能还远远达不到这样的水平。

不要说什么人工智能,就是所谓的智能辅助,到底是减轻工作量还是增加工作量,这样我们还要好好说说呢。

比如,一些软件说能够自动理解卷宗,自动生成审查报告,但是也主要集中在危险驾驶等特别简单的案件。

主要是把一些要素机械提取放在那里,看起来像一个审查报告,但是可能整体上可能存在逻辑漏洞,甚至文字语句、语境上的问题,你还要重新梳理、校对,有这个时间你都可以办我几个案件。有些省份的司法官被要求必须使用这样的软件,苦不堪言。

就像我们,速裁案件可以不用写审查报告,直接写起诉书,这样校对也可以省略了。

你说哪个更省力气?

还有,有些智能语音识别系统,安装在提讯设备上因为不能联网,也不得到机器学习的算法升级支持,识别率就低,每次用它提讯就吃不上饭。

本来一个小时能提讯完,它要四个小时,因为需要用三个多小时的时间去校对、删减那几十页有文必录、错误百出的笔录。这样的系统是到底是减轻工作量,还是增加工作量?

所以算法对司法的帮助是局限性的。

不能说完全没有作用,比如互联网技术对社会的影响是方方面面的,司法工作也概莫能外。

但是具体到实际的工作也不能想当然,也不是时时处处事事都会促进工作。

尤其是信息技术外衣如果包含的是行政管理命令内涵,看起来是算法,骨子里还是行政化,是不可能真正对司法产生助力的。或者拿一些不成熟的技术,包装成人工智能等高大上的外衣,实际上等于通过司法过程来完善技术,相当于具有一定的实验性。

这种技术对司法工作也是不合适的,因为司法关系到人的生命、自由和声誉,不容许有任何的疏忽,对算法不成熟可能造成的批量性司法风险是无法承受的。这些是为什么办案人在应用这些系统上反而更累,因为虽然系统帮助做了一些工作,但工作的质量和司法责任要由司法官自己承担,他为了确保办案质量只能付出更多的精力来弥补算法不完善所带来的问题。这就像带了一个不靠谱的徒弟,比你自己干还累,因为你还要帮他堵窟窿,而且筛查窟窿的工作量是巨大的。

笔者并不是反对现代技术的应用,而是主张一种更为理性的态度,为此要重点破除两个误区:

一是技术万能论。

认为技术是万能的,往往不是对技术半懂不懂,就是对业务半懂不懂,甚至两者皆如此。

听到了一些技术术语,就觉得好,就想当然觉得能用、好用,既不动背后的基本原理,也不了解的真实的司法业务需求。主要的是,他自己也不会亲自使用这种司法技术。

比如,提讯的智能语音软件,领导非说好用,逼着你用,吃不上饭也让你用。但是他自己亲自用一次,他就不说了。

实践是检验真理的唯一标准。智能辅助等算法支持主要应用于具体的办案实践,但问题是,很多决策层的领导已经离这种具体的司法实践很远了,在他的脑海里主要是一种想象。即使是亲自办案,他也不会亲自操作办案系统,亲自使用这些职能辅助软件,他所获得的反馈都不是直接的,都来自于汇报

这种非亲历性的认知,加上系统华丽的外观,炫酷的外观,以及精彩的汇报,就很容易受到误导,根源其实就是脱离实践。

另外,还有一种攀比心理,很多地方都在搞系统,我们也要搞系统,搞系统就是搞创新,就是能出业绩。

就像一定时期以来,城市化建设比拼的,大广场、大高楼,从而体现显性业绩。系统这种显性体现在另一个方面,主要是概念股,什么人工智能、大数据、机器学习等等,就显得技高一筹,当然也应该一定好用。

仅仅是拿概念包装起来的技术半成品,再与司法需求不能完全契合,不但不能促进司法工作,反而成了司法工作的负担。

还有些所谓的大数据工作工程,往往大屏幕、大图表,参观使很好看,但是数据的及时性、准确性,对司法工作的真正日常有用性反而无人问津,这也逐渐成了新型的司法政绩工程。

实际上,技术没有高级的、低级的,只有适合的,才是好的。

技术、算法到底好不好用,应该以真正的用户作为评价标准,而不能简单的想当然。就像很多互联网产品,什么都那么好用,都是用户用脚投票的产物。

因此,建议在司法系统智能辅助软件的适用和开放上,也参考APP store模式,建立一个司法智能辅助软件市场这样的一个机制,允许各类人员进行开发,但允许司法人员用脚投票,形成真正的市场化竞争机制,从而实现需求和技术的完美匹配。

二是人很容易被替代。

这个看法主要集中在技术领域,他们将司法行为限定为现有的工作模式。

比如,认为人工打字输入占到现有工作量的30%,那么替代了人工输入就替代了30%的工作量。而假如的阅卷占到40%,那么“智能”地生成了一个审查报告,这个40%又替代了,或者替代了绝大部分。这样节约了70%的工作量,潜台词是节约70%的人力资源。

实际上,远远不是这么回事。

打字确实比写字要快,但是通过打字办案并没有比通过写字办案更快,为什么?因为,你写的内容不同了,办案的质量要求不同了。而且,事实上是案件的复杂性也在增加,因为整个社会的复杂性也在增加,不仅我们用电脑,犯罪嫌疑人也会用电脑和手机,而且还会形成电子证据,这些也是没有过的。

更重要的是社会整体上更复杂了,我们办案其实不是打字,而是在理解这种复杂性,阅卷、打报告,只是理解和处理这种复杂性的过程。这种复杂性也在不断的增加,而且对对它的理解和把握也有弹性的。

就好像有一个复杂问题,如果你有时间你就多研究一会,研究得深入一点,没有时间的话就研究浅一点,总之都要在规定的时间,拿出一个结论。通过智能辅助减轻的案卷摘录等负担,使我们不是空闲起来了,而是有了创造一个更加深入理解这种案件复杂性的机会。而且这也是司法越来越公开透明,公众民主法制意识日益提高的必然要求。

以审判中心诉讼制度改革和庭审实质化的要求,必然要提高审查证据的精细化程度和出庭工作的准备难度,也必然增加了庭审中的挑战。这些工作的压力和增加的工作量很快就会将运用技术解决出的一点时间填满,而且很有可能是超越负荷。

事实上,人类历史的发展就是一个不断用创造性的劳动填满机械性劳动腾挪出的时间的过程,这也是任何社会、组织和个人不断成长发展的过程,实际上这就是文明发展的基本规律。

但是另一个基本规律就是,创造性劳动投入得越多,由于创造性劳动所带来的复杂性也会同样增加,因此所应付的工作非但没有轻松,反而还有可能增加。除非能够一劳永逸的替代人类的创造,否则不可能替代人。

因此,我们在思考算法对人的帮助的时候,我们必须理性面对这种工具的有用性和局限性,同时考虑两者以及人的不可替代性,才能做出正确的选择。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20191212A04VL100?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券