马上消费陆全：大模型商业化落地技术治理需把握“五个大方向”

北京商报讯（记者 岳品瑜 董晗萱）3月28日，在中国计算机学会（CCF）数字金融分会、重庆市大数据应用发展管理局、上海金融与发展实验室指导下，马上消费联合中国科学技术出版社、金融界共同举办“大模型驱动下的金融新质生产力创新论坛暨全国首部《金融大模型》著作发布”活动。

马上消费人工智能研究院院长陆全在演讲中指出，目前国内大模型正加速商业化落地，通用基础类大模型与行业领域类大模型参与者在各自赛道中寻找最优解。

当下如何尽量避免大模型产生幻觉问题继而影响使用人决策？陆全认为，目前通用大模型尚存在较大的潜在安全可信威胁，“敏捷治理”已成为业界一大课题，需从一开始做好五大方向的技术治理，即安全体系、标准体系、合规检查、幻觉检测、动态评价机制。行业领域大模型可限定在金融等具体场景，明确金融行业和具体场景的限制条件，相比通用场景，细分场景的规则更明确、数据质量更高、标准较易统一。同时，行业领域大模型为了确保安全合规，甚至不惜损失部分性能表现，如限制大模型只在给定的文档内容的范围内生成知识内容。

“不论企业最终选择哪一条赛道，大模型的发展都需要集聚同业及生态伙伴力量，加快建设大模型科创新高地、场景应用新高地、生态合作新高地，势在必行。”陆全说道。