首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

(二)山东中数-MaxKb-AI创建应用集成

老板们,当下市场竞争激烈,时间就是金钱。大家算过因知识查找不便、信息传递不畅,公司一年损失多少人力和业务机会吗?据统计,企业员工平均每周要花费 8 小时查找资料,这不仅浪费人力成本,还会错失黄金业务时机。山东中数集成 MaxKB 本地知识库,专为解决这一难题打造。借助它,检索响应速度提升 90%,知识传递效率大幅提高,员工能把更多时间花在创造价值的工作上。不少同行企业引入后,年度营收增长了 20%。要是您也想提升效率,抢占市场先机,不妨了解下这款产品。

本文主要从本地知识库的配置,AI应用的集成,云端服务的集成,效果的展示等三个技术方面,一个效果展示来讲解使用说明。

本文重点讲述AI应用的集成

1 应用创建

简单配置应用

高级编排应用

2 导出与导入

3 应用概览

4 命中测试

1 应用的创建

简单应用创建

点击【创建应用】,输入应用名称以及应用描述,选择【简易配置】,点击【创建】,进入简易配置应用设置页面。

左侧为应用信息,右侧为调试预览界面。

应用名称:提问时对话框的标题和名字。

应用描述:对应用场景及用途的简要描述。

AI模型:可选择在【系统设置】-【模型管理】中添加的大语言模型,也可直接添加。

角色设定:通过给模型指定一个特定的角色或身份,来指导模型的输出更加符合特定的场景或任务需求。

提示词:系统默认有智能知识库的提示词,用户可以自定义通过调整提示词内容,可以引导大模型聊天方向,该提示词会被固定在上下文的开头。可以使用变量,例如:{data} 是引用知识库中已知信息,{question}是用户提出的问题。目前可针对是否引用知识库设置不同的提示词。

历史聊天记录:大模型提交当前会话中最后 N 条对话内容,否则仅向大模型提交当前问题。

关联知识库:用户提问优先在关联的知识库中检索分段,引用分段生成提示词发送给大模型进行询问。若未关联知识库或未匹配到分段内容,则默认将用户问题发送给大模型进行询问。知识库可设置检索方式、知识库的相似度,引用分段数 Top-N 和最大引用字符数、无引用知识库分段时的回答策略以及是否进行问题优化等。

开场白:打开对话时,系统弹出的默认引导说明。支持 Markdown 格式,[-]后的内容为快捷问题,一行一个。

语音输入:在语音输入完成后会转化为文字后再发送提问,需要语音识别模型的支持。

语音播放:将大模型生成的回答内容转换为语音进行播放,需要语音合成模型的支持。

应用信息设置完成后,可在右侧调试预览中进行提问测试,调试过程不计入对话日志。

点击【保存并发布】后,应用设置才生效。

高级应用的集成

点击【创建应用】,输入应用名称,选择【高级编排】,点击【创建】,进入工作流编排页面。

注意:

画布上的节点必须在工作流程中,不能有流程外的孤立节点,否则在发布时会校验失败。

每个节点可以根据节点的用途进行重命名,双击节点名称即可重命名,但同一个工作流编排中节点名称不能重复。

连线的后置节点可以引用前置节点的输出参数,如果节点名称变更,需要重新复制变量,参数引用方式是{{节点名称.变量名称}}。

完成工作流程设计之后,使用左下方的画布控制栏,可以对画布进行整体调整,包括画布缩放、节点收缩以及流程一键优化。

1 基础组件

每个工作流都有基本信息与开始两个基础节点:

基本信息:应用的基本信息设置节点,如应用名称、描述、开场白等设置,每个应用只有一个基本信息节点,不能删除和复制。

开始:工作流程的开始,每个应用只能有一个开始节点,不能删除和复制。

AI对话:与AI大模型进行对话节点。

图片理解:识别并理解图片所包含的信息。

图片生成:根据提供的文本内容生成图片。

知识库检索:关联知识库,检索与问题相关分段的节点。

多路召回:使用重排模型对多个知识库的检索结果进行二次召回。

判断器:根据不同条件执行不同的节点。

指定回复:直接指定回复内容。

表单收集:通过表单的方式收集问答所需要的必要信息。

问题优化:AI对话的一种,设定了默认的角色和提示词,根据上下文优化问题。

文档内容提取:提取文档中的内容。

语音转文本:将音频转换为文本。

文本转语音:将文本转换为语音。

变量赋值:更新全局变量的值。

1.1 基本信息

节点说明:工作流的开始节点,有且唯一,不能删除和复制,问答页面输入的问题会作为该节点的输出参数{question},后续节点如需引用可以复制输出参数或选择变量:开始节点->用户问题。

文件上传: 开启后应用将支持在对话时上传文档(TXT、MD、DOCX、HTML、CSV、XLSX、XLS、PDF)、图片(JPG、JPEG、PNG、GIF)以及音频文件(MP3、WAV、OGG、ACC、M4A),每次最多上传 10 个,单个文件不超过 100 MB,在后续节点中可以对上传后的文件进行处理。

用户输入:在会话开始时,需要在用户端提供的必要信息,例如,岗位角色等,以便后续流程可以根据不同输入进行不同的流程设计。

接口传参:在通过应用公开访问链接时可配置的参数。添加接口参数后将会在公开访 URL 自动增加接口参数,在与第三方系统集成。

语音输入:开启后将支持以语音的方式进行问题的输入,需要使用语音识别模型。

语音播放:开启后回答内容将以语音的方式进行播放,可以使用浏览器内置的播放,也可以使用语音合成模型进行摸播放。

1.2 开始¶

全局变量:

当前时间 {time}:当前对话的时间。

历史聊天记录 {history_context}:对话的历史记录。

对话id {chat_id}:对话标识。

参数输出:

用户问题 {question}:客户端输入的提问信息。

文档 {document}:客户端上传的文档。

图片 {image}: 客户端上传的图片文件。

音频 {audio}: 客户端上传的音频文件。

1.3 AI 对话

节点说明:如果应用需要与AI大模型进行对话,则需要在编排中添加 AI 对话组件,选择 AI 模型,设置提示词,提示词可以引用前置节点的参数输出,如:可以引用前置知识库检索的检索结果和开始节点的问题变量。

节点设置:

AI 模型:大语言模型的名称以及参数控制。

角色设定:大语言模型回答的角色或身份设定。

提示词:引导模型生成特定输出的详细描述。

历史聊天记录:在当前对话中有关联的历史会话内容。例如,历史聊天记录为1,表示当前问题以及上一次的对话内容一起输送给大模型。

返回内容:是否在对话中显示该节点返回的内容。

参数输出:

AI回答内容 {answer}:根据角色、提示词等内容大语言模型返回的内容。

1.4 图片理解

节点说明:对用户上传的图片文件进行分析和理解。

节点设置:

图片理解模型:图片理解模型名称。

角色设定:回答的角色或身份设定。

提示词:引导模型生成特定输出的详细描述。

历史聊天记录:

选择图片:待理解和分析的图片,默认为当前用户上传的图片文件。

返回内容:是否在对话中显示该节点返回的内容。

参数输出:

AI回答内容{answer}:根据上传的图片以及角色、提示词等信息图片理解模型返回的内容。

1.5 图片生成

节点说明:根据文本描述生成对应的图片。

节点设置:

图片生成模型:图片生成模型名称。

提示词(正向):引导模型生成积极、建设性输出的文字输入。

提示词(负向):不应该包含在生成输出中的元素、主题或特征的描述。

返回内容:是否在对话中显示该节点返回的内容。

参数输出:

AI回答内容 {answer}:即图片生成模型根据文本输入生成的图片。

图片 {image}: 生成图片的详细信息。

1.6 知识库检索

节点说明:如果应用需要关联知识库,则需要在编排中添加知识库检索节点,选择知识库、设置检索参数、选择检索的问题。

节点设置:

知识库:待检索的知识库。

检索参数:包括检索模式、相似度阈值、引用分段数量以及最大引用字符数。

检索问题:一般是开始节点的用户问题。

参数输出:

检索结果的分段列表 {paragraph_list}:数组类型,指根据检索问题、检索参数进行检索后命中的分段列表,包含了分段的所有属性;

满足直接回答的分段列表 {is_hit_handling_method_list}:数组类型,指根据检索问题、检索参数进行检索后命中的分段中满足直接回答的所有分段列表,包含了分段的所有属性;

检索结果 {data}:字符串类型,指根据检索问题、检索参数进行检索后命中的分段内容;

满足直接回答的分段内容 {directly_return}:字符串类型,指根据检索问题、检索参数进行检索后命中的分段中满足直接回答的所有分段内容。

1.7 多路召回

节点说明:根据需要重排的内容、检索问题以及检索参数进行多路召回。

节点设置:

重排内容:待重排的多个内容,一般是多个不同知识库的检索结果。

检索参数:包括 score 阈值、引用分段数以及最大引用字符数。

检索问题:根据检索问题进行重排,一般为用户问题或问题优化后的结果。

重排模型:需要使用的重排模型名称。

参数输出:

重排结果列表 {result_list}:数组类型,指根据重排后的结果列表。

重排结果 {result}:字符串类型,指根据检索参数后的重排结果。

1.8 判断器

节点说明:根据不同的条件进行逻辑判断,每个判断分支后面必须有后置执行节点。

判断器节点输出参数说明:

分支名称{branch_name}:每个判断分支的名称。

1.9 指定回复

节点说明:指定输出文本内容,在知识库查询到的相关内容满足直接回答的要求,可以输出检索内容,也可以在知识库没有查询到关联内容时,指定回复内容。

指定回复节点输出参数说明:

内容{answer}: 指定回复输出的内容。

1.10 表单收集

节点说明:通过表单的设计,以引导的方式主动获取必要的信息,一般应用于需要多次询问的应答场景。

节点设置:

表单输出内容:表单提示说明以及表单内容,可以单项输入,也可以输入多项信息。

表单配置:通过添加不同的组件进行表单的设计。

参数输出:

表单全部内容{form_data}:表单的全部内容。

表单全部内容将作为固定的输出,对于各个表单项也都进行参数化输出。

1.11 问题优化

节点说明:根据当前会话的历史聊天记录,以及在节点设置的大预言模型和提示词,对当前问题进行智能优化。

节点设置:

AI 模型:大语言模型的名称以及参数控制。

角色设定:大语言模型回答的角色或身份设定。

提示词:引导模型生成特定输出的详细描述。

历史聊天记录:在当前对话中有关联的历史会话内容。例如,历史聊天记录为1,表示当前问题以及上一次的对话内容一起输送给大模型。

返回内容:是否在对话中显示该节点返回的内容。。

参数输出:

问题优化结果 {answer}:通过大模型优化后的问题。

1.12 文档内容提取

节点说明:对用户上传的文档进行内容总结。

节点设置:

选择文档:即用户上传的文档,需要在基本信息节点开启对文件上传的支持。

参数输出:

文档输出 {content}:对用户上传文件进行的总结输出。

1.13 语音转文本

节点说明:将音频文件转换为文本。

节点设置:

语音识别模型:选择语音识别模型的名称。

语音文件:即上传的音频文件,支持的格式包括:mp3、wav、ogg、acc。

返回内容:是否在对话中显示该节点返回的内容。

参数输出:

结果 {result}:语音转换后的文本内容。

1.14 文本转语音

节点说明:将文本转换为音频。

节点设置:

语音合成模型:选择可用语音合成模型的名称。

文本内容:选择待合成的文本内容。

返回内容:是否在对话中显示该节点返回的内容。

参数输出:

结果 {result}:将文本转成的音频内容。

1.15 变量赋值

节点说明:更新全局变量的值。

2 添加函数

在高级编排流程中,可以添加函数库函数作为流程中的一个处理节点,以灵活处理复杂需求,函数详细说明见:函数 。

节点设置:即函数的输入参数。

参数输出:即函数的返回结果。

3 添加应用

在高级编排流程中,可以添加其它应用(简单配置应用和流程编排应用)作为流程中的一个处理节点,直接快速利用子应用的问答结果。

节点设置:

用户问题:对子应用的提问信息。

返回内容:开启后在对话过程中将子应用的返回结果。

参数输出:

结果:即子应用的返回结果。

4 执行条件

MaxKB 工作流中支持多出多进,在这个情况下,汇集节点可以根据与前置节点的逻辑关系,选择执行条件。

ALL:需要等所有前置连线节点全部执行完成后,才可执行当前节点。

ANY:任一前置连线节点执行完成后,即可执行当前节点。

5 调试

完成所有的编排设计后,可点击【调试】后,先校验流程是否合规,校验通过后可在当前页面进行对话测试。

6 保存

高级编排流程默认手动保存,也可设置自动保存,开启自动保存后将每隔 1 分钟保存到本地,并在发布成功后将配置同步到后台数据库。

7 发布

2 应用的导入导出

应用支持导出操作,导出后文件名称为:应用名称.mk。 对于高级编排类型的应用,导出内容为包括工作流中所有节点的参数设置以及函数内容,流程节点中所选择的知识库和模型信息不导出。

在应用页面,点击【导入应用】,即可导入应用文件(文件后缀为.mk)。

演示地址/演示账户等信息请联系

联系人1微信:yanfei115775

联系人2微信:ysp2338084

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OzpG0JSnCzhLx-5Rp3GrMOjQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券