非凡挚友｜澜码科技CEO：Agentic AI代表着大模型的技术更迭与落地状态

   嘉宾介绍

   快问快答

1、能否介绍下你们的产品和核心应用场景？以及它们在市场中的独特价值是什么？

澜码的核心产品是自研的企业级AI Agent平台——AskXBOT。

AskXBOT平台是澜码科技自主研发的基于大语言模型的企业级 Al Agent 平台。平台集Agent与工作流设计、开发、使用、管理与知识沉淀于一体。

在AskXBOT平台上，企业用户可以用对话的方式提出需求，设计、创建和管理Agent，快速定制企业级AI Agent来完成各类任务，提升工作质量的同时降低成本。

其核心功能包括Agent设计、Agent管理、Agent使用、应用市场、知识中心、仿真平台等，目前我们的产品已在金融、能源、政务、制造、零售、教育等多个行业落地应用，核心应用场景主要在尽调审核、销售辅助等场景。

AskXBOT产品的独特价值主要体现在专家知识的赋能，也是澜码的价值主张。我们认为，专家知识是AI Agent 得以在企业落地的关键。专家知识的高度决定了AI Agent能够提供的价值高度，数据会帮助专家快速迭代专家知识，从而提高AI Agent的通用性。

大语言模型缺乏企业特定领域知识，解决不了实际业务问题，如同一位名校毕业的高材生，由于缺乏实践经验而难以胜任具体的业务任务；此外，大语言模型对于自身能力边界的认知模糊，导致在面对超出自身能力范畴的问题时，仍试图依靠自身理解给出答案，结果往往南辕北辙，这就是常说的“模型幻觉”。因此，在企业级应用场景下，专家知识对大语言模型落地至关重要，可以说专家知识决定了AI Agent的天花板。

澜码科技的AskXBOT平台上，可以把企业内各种 SOP、业务流程、规则、事实以及相应的领域知识沉淀下来，构建企业知识库，促进知识共享与传承。基于此，Agent辅助知识治理，配合专家知识数字化沉淀；专家知识赋能Agent与工作流，形成良性闭环。

2、生成式人工智能对你们的产品设计、客户推广、定价策略等带来了哪些变化？

我们是AI Native产品，是基于大语言模型提供的信息抽取、指令遵循、逻辑推理等能力在生成式人工智能、AI Agent领域的创新产品。我们希望在大模型发展的基础上推动生成式人工智能的进一步发展。

在定价策略方面，目前澜码是根据客户对智能算力的投入，再按照一定比例收取费用。在未来，澜码期待数字员工能够改变企业内部的组织结构，按照增强甚至替代初、中级人力的部分收取费用，例如雇佣一个初级员工的工资可能是8000元，今天可能花5000元就可以雇佣到一个拥有同等能力的数字员工。

3、在大模型和生成式AI技术快速发展的背景下，你们如何确保自己的产品底层技术始终保持行业领先地位？

首先是充分吸收大模型本身能提供的能力，同时也能够利用大模型不断更新换代所带来的能力的提升。

另外一个维度来看，现在这个时代最重要的还是稀缺的内部数据，在业务落地过程中能“拿到”一些数据，可以使得我们的产品能够有一定的壁垒。今天的AI其实都是用统计的规律对信息进行整理，我们所说的数据一定不是公开的数据，它包括可以通过自然语言描述的专家的实施经验、知识等，使这些数据能够被沉淀下来，实现数据飞轮，并在实际应用过程中，通过大模型的短期/长期记忆功能，使AI Agent的性能得到提升。

4、您如何理解和建构与大模型厂商、及其他上下游生态合作伙伴的关系？

首先是“以终为始”，要建构与大模型厂商及其他上下游生态合作伙伴的关系必须先构想未来生态的可能形态。

一方面是可以借鉴二三十年前互联网的发展所带来的基础架构的变更，可以明确不同厂商分别是更偏基础设施、平台还是应用类型，在此基础上再与大模型厂商、上下游伙伴等建构生态合作关系。

澜码定位在平台层，在处理生态合作伙伴关系过程中，更多的是将大模型厂商、已有的应用厂商等各方的价值及业务模式摸索清楚，并考虑如何与他们合纵连横，达到一个良好的生态合作。

5、目前你们有哪些比较大的挑战？如何看待国内外AI市场情况？

目前最大的挑战是产品和市场的匹配，技术、以及市场对技术的接受程度都在高速变化，因此，如何在高速变化中实现产品的迭代，是目前面临的挑战。澜码的经验是在经营和组织上更敏捷，快速迭代，以面临和解决当下的问题与挑战。

首先，从大模型的视角来看，我们常讲的scaling law，是说我们应该把算力、数据往上去累加，达到量级的差距的时候，它会有一些没有被期待的能力能够被涌现出来。那么从这个视角上来看，今天其实硅谷那里最大的集群已经到了十万，而国内明显是落后的，我知道的是国内万卡集群是不缺的，但是3万张以上组成的集群目前还没有。所以这里会带来的差异是，新的一些架构，包括新的一些能力的涌现，我们基本上得期待是由硅谷先做出来。

但是我觉得其实国内的追赶速度还是十分迅速的，目前国内的大模型基本上已经追平GPT-4。在应用侧和场景侧，国内具有数据优势。在多模态领域，国内的短视频发展迅速，可能成为多模态模型的发展方向。

另外一侧，关于模型的小型化。比如说在AIPC或者AI手机这块大家会形成比较多的竞争。那么在这个领域，我今天看到的情况是国内跟国外差距并不特别大，我们可能落后3~6个月。但是在最核心的——大模型的创新方面，或者说我们的推理能力层面，国内落后的差距比较大。而且不确定的是所谓的推理能力的范化，会不会因为国外的包括人才、算力、数据的优势，甚至会更加放大这个差异。

6、2024年还有哪些值得关注的新技术趋势？

主要关注硅谷大厂跟进大模型O系列的速度和多模态的突破，未来，多模态发展成熟可能会改变产品输入方式，也会开拓出更多的市场需求。

报名通道

- END -