2024世界人工智能大会 | 拓尔思发表《AI推理应用场景的落地分享》主题演讲

7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议在上海盛大开幕。拓尔思应邀参会，在上海世博展览馆发布“拓天大模型AI推理应用解决方案”。同时，拓尔思数字经济研究院副院长文雅发表《AI推理应用场景的落地分享》主题演讲。

#联合发布#

拓尔思数字经济研究院副院长文雅、渠道总监田春明与华为北京大企业系统部总经理熊剑等联合发布拓天大模型AI推理应用解决方案。

这是继双方成功打造全栈自主可控的拓天一体机联合解决方案及7月4日在2024全球数字经济大会上联合发布昇腾一体机后的再次重磅发布。

#主题演讲#

拓尔思作为国内领先的数据智能服务厂商，在数据资产建设和大模型落地方面具有先发优势，基于四大数据资产平台以及自主研发的拓天大模型一体化平台，相继推出了媒体、金融、政务、舆情、专利等垂直领域大模型，聚焦公司优势行业客户，率先实现了大模型在多个行业的应用场景落地。

在演讲中，文雅深入剖析了大模型落地的发展趋势，指出了效果未达预期的4个原因，并总结了落地过程中常见的5个“坑”，如大模型的“黑盒特性”面临业务场景高专业性和严谨性的挑战、很多应用仍停留于搜索问答层面而未深入业务工作流、以及大模型落地工程是全要素的改变，传统软件开发范式遇挑战等。

文雅以平安银行“审计大脑”稽核专业大模型为例，分享了拓天大模型AI推理应用在金融场景的成功实践。平安银行“审计大脑”项目建设于2023年8月正式启动，围绕查、问、析三大审计核心场景，建设稽核专业大模型“慧小喵”，在专业力、知识力、严谨力全面领先，赋能审计稽核场景全流程提质增效，提高审计工作效率和质量。

一期主要将大模型赋能于审计依据查找、审计风险分析、审计方案设计、审计方法查询、合规知识问答、审计问题诊断、审计报告撰写及访谈问卷设计8个场景，实现了审计工作的全面智能化升级。该项目以业务目标为驱动，以知识治理为先导，与业务部门一起建设了八大稽核智库，设计了覆盖经营发展、风险管理、内控合规三大维度审计监测指标600余个。建设了策略工厂，如RAG、审计问题诊断算法等，大小模型双协同，不同场景调用不同算法和技术组件。该项目实现了科技与业务的深度融合，通过应用场景的精细化切片，满足审计工作的多元化需求。

项目上线后，累计向行内70多家单位推送近百个风险模型、数十万条数据，实现了对一级分行与重点产品全面覆盖。项目效果显著，90%的用户使用率，70%的用户月活率，100% 通过知鸟各类专业测试，银行从业资格考试得分87分，GPT智能问答信息获取率与报告初稿利用率均达到90%，发挥了极高的应用价值。

最后，文雅提炼了大模型成功落地的五个重要保障：统一AI认知是必要前提，高质量数据与知识治理是项目核心，大小模型协同与多技术组件灵活搭配是技术关键，与业务深度融合是应用根本，全要素运营是项目优化的源泉。