老板们,当下市场竞争激烈,时间就是金钱。大家算过因知识查找不便、信息传递不畅,公司一年损失多少人力和业务机会吗?据统计,企业员工平均每周要花费 8 小时查找资料,这不仅浪费人力成本,还会错失黄金业务时机。山东中数集成 MaxKB 本地知识库,专为解决这一难题打造。借助它,检索响应速度提升 90%,知识传递效率大幅提高,员工能把更多时间花在创造价值的工作上。不少同行企业引入后,年度营收增长了 20%。要是您也想提升效率,抢占市场先机,不妨了解下这款产品。
本文主要从本地知识库的配置,AI应用的集成,云端服务的集成,效果的展示等三个技术方面,一个效果展示来讲解使用说明。
本文重点讲述AI应用的集成
1 应用创建
简单配置应用
高级编排应用
2 导出与导入
3 应用概览
4 命中测试
1 应用的创建
简单应用创建
点击【创建应用】,输入应用名称以及应用描述,选择【简易配置】,点击【创建】,进入简易配置应用设置页面。
左侧为应用信息,右侧为调试预览界面。
应用名称:提问时对话框的标题和名字。
应用描述:对应用场景及用途的简要描述。
AI模型:可选择在【系统设置】-【模型管理】中添加的大语言模型,也可直接添加。
角色设定:通过给模型指定一个特定的角色或身份,来指导模型的输出更加符合特定的场景或任务需求。
提示词:系统默认有智能知识库的提示词,用户可以自定义通过调整提示词内容,可以引导大模型聊天方向,该提示词会被固定在上下文的开头。可以使用变量,例如:{data} 是引用知识库中已知信息,{question}是用户提出的问题。目前可针对是否引用知识库设置不同的提示词。
历史聊天记录:大模型提交当前会话中最后 N 条对话内容,否则仅向大模型提交当前问题。
关联知识库:用户提问优先在关联的知识库中检索分段,引用分段生成提示词发送给大模型进行询问。若未关联知识库或未匹配到分段内容,则默认将用户问题发送给大模型进行询问。知识库可设置检索方式、知识库的相似度,引用分段数 Top-N 和最大引用字符数、无引用知识库分段时的回答策略以及是否进行问题优化等。
开场白:打开对话时,系统弹出的默认引导说明。支持 Markdown 格式,[-]后的内容为快捷问题,一行一个。
语音输入:在语音输入完成后会转化为文字后再发送提问,需要语音识别模型的支持。
语音播放:将大模型生成的回答内容转换为语音进行播放,需要语音合成模型的支持。
应用信息设置完成后,可在右侧调试预览中进行提问测试,调试过程不计入对话日志。
点击【保存并发布】后,应用设置才生效。
高级应用的集成
点击【创建应用】,输入应用名称,选择【高级编排】,点击【创建】,进入工作流编排页面。
注意:
画布上的节点必须在工作流程中,不能有流程外的孤立节点,否则在发布时会校验失败。
每个节点可以根据节点的用途进行重命名,双击节点名称即可重命名,但同一个工作流编排中节点名称不能重复。
连线的后置节点可以引用前置节点的输出参数,如果节点名称变更,需要重新复制变量,参数引用方式是{{节点名称.变量名称}}。
完成工作流程设计之后,使用左下方的画布控制栏,可以对画布进行整体调整,包括画布缩放、节点收缩以及流程一键优化。
1 基础组件
每个工作流都有基本信息与开始两个基础节点:
基本信息:应用的基本信息设置节点,如应用名称、描述、开场白等设置,每个应用只有一个基本信息节点,不能删除和复制。
开始:工作流程的开始,每个应用只能有一个开始节点,不能删除和复制。
AI对话:与AI大模型进行对话节点。
图片理解:识别并理解图片所包含的信息。
图片生成:根据提供的文本内容生成图片。
知识库检索:关联知识库,检索与问题相关分段的节点。
多路召回:使用重排模型对多个知识库的检索结果进行二次召回。
判断器:根据不同条件执行不同的节点。
指定回复:直接指定回复内容。
表单收集:通过表单的方式收集问答所需要的必要信息。
问题优化:AI对话的一种,设定了默认的角色和提示词,根据上下文优化问题。
文档内容提取:提取文档中的内容。
语音转文本:将音频转换为文本。
文本转语音:将文本转换为语音。
变量赋值:更新全局变量的值。
1.1 基本信息
节点说明:工作流的开始节点,有且唯一,不能删除和复制,问答页面输入的问题会作为该节点的输出参数{question},后续节点如需引用可以复制输出参数或选择变量:开始节点->用户问题。
文件上传: 开启后应用将支持在对话时上传文档(TXT、MD、DOCX、HTML、CSV、XLSX、XLS、PDF)、图片(JPG、JPEG、PNG、GIF)以及音频文件(MP3、WAV、OGG、ACC、M4A),每次最多上传 10 个,单个文件不超过 100 MB,在后续节点中可以对上传后的文件进行处理。
用户输入:在会话开始时,需要在用户端提供的必要信息,例如,岗位角色等,以便后续流程可以根据不同输入进行不同的流程设计。
接口传参:在通过应用公开访问链接时可配置的参数。添加接口参数后将会在公开访 URL 自动增加接口参数,在与第三方系统集成。
语音输入:开启后将支持以语音的方式进行问题的输入,需要使用语音识别模型。
语音播放:开启后回答内容将以语音的方式进行播放,可以使用浏览器内置的播放,也可以使用语音合成模型进行摸播放。
1.2 开始¶
全局变量:
当前时间 {time}:当前对话的时间。
历史聊天记录 {history_context}:对话的历史记录。
对话id {chat_id}:对话标识。
参数输出:
用户问题 {question}:客户端输入的提问信息。
文档 {document}:客户端上传的文档。
图片 {image}: 客户端上传的图片文件。
音频 {audio}: 客户端上传的音频文件。
1.3 AI 对话
节点说明:如果应用需要与AI大模型进行对话,则需要在编排中添加 AI 对话组件,选择 AI 模型,设置提示词,提示词可以引用前置节点的参数输出,如:可以引用前置知识库检索的检索结果和开始节点的问题变量。
节点设置:
AI 模型:大语言模型的名称以及参数控制。
角色设定:大语言模型回答的角色或身份设定。
提示词:引导模型生成特定输出的详细描述。
历史聊天记录:在当前对话中有关联的历史会话内容。例如,历史聊天记录为1,表示当前问题以及上一次的对话内容一起输送给大模型。
返回内容:是否在对话中显示该节点返回的内容。
参数输出:
AI回答内容 {answer}:根据角色、提示词等内容大语言模型返回的内容。
1.4 图片理解
节点说明:对用户上传的图片文件进行分析和理解。
节点设置:
图片理解模型:图片理解模型名称。
角色设定:回答的角色或身份设定。
提示词:引导模型生成特定输出的详细描述。
历史聊天记录:
选择图片:待理解和分析的图片,默认为当前用户上传的图片文件。
返回内容:是否在对话中显示该节点返回的内容。
参数输出:
AI回答内容{answer}:根据上传的图片以及角色、提示词等信息图片理解模型返回的内容。
1.5 图片生成
节点说明:根据文本描述生成对应的图片。
节点设置:
图片生成模型:图片生成模型名称。
提示词(正向):引导模型生成积极、建设性输出的文字输入。
提示词(负向):不应该包含在生成输出中的元素、主题或特征的描述。
返回内容:是否在对话中显示该节点返回的内容。
参数输出:
AI回答内容 {answer}:即图片生成模型根据文本输入生成的图片。
图片 {image}: 生成图片的详细信息。
1.6 知识库检索
节点说明:如果应用需要关联知识库,则需要在编排中添加知识库检索节点,选择知识库、设置检索参数、选择检索的问题。
节点设置:
知识库:待检索的知识库。
检索参数:包括检索模式、相似度阈值、引用分段数量以及最大引用字符数。
检索问题:一般是开始节点的用户问题。
参数输出:
检索结果的分段列表 {paragraph_list}:数组类型,指根据检索问题、检索参数进行检索后命中的分段列表,包含了分段的所有属性;
满足直接回答的分段列表 {is_hit_handling_method_list}:数组类型,指根据检索问题、检索参数进行检索后命中的分段中满足直接回答的所有分段列表,包含了分段的所有属性;
检索结果 {data}:字符串类型,指根据检索问题、检索参数进行检索后命中的分段内容;
满足直接回答的分段内容 {directly_return}:字符串类型,指根据检索问题、检索参数进行检索后命中的分段中满足直接回答的所有分段内容。
1.7 多路召回
节点说明:根据需要重排的内容、检索问题以及检索参数进行多路召回。
节点设置:
重排内容:待重排的多个内容,一般是多个不同知识库的检索结果。
检索参数:包括 score 阈值、引用分段数以及最大引用字符数。
检索问题:根据检索问题进行重排,一般为用户问题或问题优化后的结果。
重排模型:需要使用的重排模型名称。
参数输出:
重排结果列表 {result_list}:数组类型,指根据重排后的结果列表。
重排结果 {result}:字符串类型,指根据检索参数后的重排结果。
1.8 判断器
节点说明:根据不同的条件进行逻辑判断,每个判断分支后面必须有后置执行节点。
判断器节点输出参数说明:
分支名称{branch_name}:每个判断分支的名称。
1.9 指定回复
节点说明:指定输出文本内容,在知识库查询到的相关内容满足直接回答的要求,可以输出检索内容,也可以在知识库没有查询到关联内容时,指定回复内容。
指定回复节点输出参数说明:
内容{answer}: 指定回复输出的内容。
1.10 表单收集
节点说明:通过表单的设计,以引导的方式主动获取必要的信息,一般应用于需要多次询问的应答场景。
节点设置:
表单输出内容:表单提示说明以及表单内容,可以单项输入,也可以输入多项信息。
表单配置:通过添加不同的组件进行表单的设计。
参数输出:
表单全部内容{form_data}:表单的全部内容。
表单全部内容将作为固定的输出,对于各个表单项也都进行参数化输出。
1.11 问题优化
节点说明:根据当前会话的历史聊天记录,以及在节点设置的大预言模型和提示词,对当前问题进行智能优化。
节点设置:
AI 模型:大语言模型的名称以及参数控制。
角色设定:大语言模型回答的角色或身份设定。
提示词:引导模型生成特定输出的详细描述。
历史聊天记录:在当前对话中有关联的历史会话内容。例如,历史聊天记录为1,表示当前问题以及上一次的对话内容一起输送给大模型。
返回内容:是否在对话中显示该节点返回的内容。。
参数输出:
问题优化结果 {answer}:通过大模型优化后的问题。
1.12 文档内容提取
节点说明:对用户上传的文档进行内容总结。
节点设置:
选择文档:即用户上传的文档,需要在基本信息节点开启对文件上传的支持。
参数输出:
文档输出 {content}:对用户上传文件进行的总结输出。
1.13 语音转文本
节点说明:将音频文件转换为文本。
节点设置:
语音识别模型:选择语音识别模型的名称。
语音文件:即上传的音频文件,支持的格式包括:mp3、wav、ogg、acc。
返回内容:是否在对话中显示该节点返回的内容。
参数输出:
结果 {result}:语音转换后的文本内容。
1.14 文本转语音
节点说明:将文本转换为音频。
节点设置:
语音合成模型:选择可用语音合成模型的名称。
文本内容:选择待合成的文本内容。
返回内容:是否在对话中显示该节点返回的内容。
参数输出:
结果 {result}:将文本转成的音频内容。
1.15 变量赋值
节点说明:更新全局变量的值。
2 添加函数
在高级编排流程中,可以添加函数库函数作为流程中的一个处理节点,以灵活处理复杂需求,函数详细说明见:函数 。
节点设置:即函数的输入参数。
参数输出:即函数的返回结果。
3 添加应用
在高级编排流程中,可以添加其它应用(简单配置应用和流程编排应用)作为流程中的一个处理节点,直接快速利用子应用的问答结果。
节点设置:
用户问题:对子应用的提问信息。
返回内容:开启后在对话过程中将子应用的返回结果。
参数输出:
结果:即子应用的返回结果。
4 执行条件
MaxKB 工作流中支持多出多进,在这个情况下,汇集节点可以根据与前置节点的逻辑关系,选择执行条件。
ALL:需要等所有前置连线节点全部执行完成后,才可执行当前节点。
ANY:任一前置连线节点执行完成后,即可执行当前节点。
5 调试
完成所有的编排设计后,可点击【调试】后,先校验流程是否合规,校验通过后可在当前页面进行对话测试。
6 保存
高级编排流程默认手动保存,也可设置自动保存,开启自动保存后将每隔 1 分钟保存到本地,并在发布成功后将配置同步到后台数据库。
7 发布
2 应用的导入导出
应用支持导出操作,导出后文件名称为:应用名称.mk。 对于高级编排类型的应用,导出内容为包括工作流中所有节点的参数设置以及函数内容,流程节点中所选择的知识库和模型信息不导出。
在应用页面,点击【导入应用】,即可导入应用文件(文件后缀为.mk)。
演示地址/演示账户等信息请联系
联系人1微信:yanfei115775
联系人2微信:ysp2338084
领取专属 10元无门槛券
私享最新 技术干货