在当今信息爆炸的时代,搭建一个属于自己的知识库,不仅有助于提高工作效率,还能方便日常学习与生活。本文将详细介绍如何使用腾讯云HAI部署DeepSeek模型,并通过Cherry Studio搭建个人知识库的详细步骤。
腾讯云HAI(混合人工智能平台)为用户提供了一个高效、稳定的计算环境,使深度学习模型的部署变得更加便捷。以下是在腾讯云HAI上部署DeepSeek模型的具体步骤:
首先,您需要在腾讯云官网注册一个账号,并完成实名认证。注册完成后,登录腾讯云控制台。
在腾讯云控制台,搜索“HAI”或“混合人工智能平台”(HPC AI)。找到相应服务后,按照页面提示开通相关服务。
在HAI控制台中,点击“新建”按钮,选择“社区应用”下的DeepSeek-R1模型。
接下来,按照提示配置以下参数:
配置完成后,点击“立即购买”进行部署。
选择完参数后,系统会自动开始部署所选的DeepSeek模型(如1.5B或7B版本)。部署完成后,您可以在HAI控制台的“应用管理”中查看和管理您的DeepSeek模型。
详细部署流程可参考我之前发表的文章:腾讯云HAI,一键开启DeepSeek大模型探索之旅
Cherry Studio是一款支持多个大语言模型(LLM)服务商的桌面客户端,具备强大的知识库管理和智能对话功能,能够帮助用户高效地构建和管理个人知识库。以下是使用Cherry Studio搭建个人知识库的具体步骤:
前往Cherry Studio官方网站,根据您的操作系统(Windows、macOS或Linux),下载适合您操作系统的安装包。根据安装向导完成安装。
完成Cherry Studio的安装后,需要进行API配置,以连接到在腾讯云HAI上部署的DeepSeek模型。以下是详细步骤:
启动Cherry Studio后,点击右下角角的设置按钮。
在设置界面中,找到“模型服务”选项,选择“Ollama”。Ollama是一个开源的大语言模型服务框架,支持多种模型的部署和管理。
在Ollama的配置页面,进行以下修改:
localhost
替换为腾讯云HAI实例的公网IP地址。11434
修改为6399
。例如:
http://<您的HAI公网IP>:6399
deepseek-r1:7b
或deepseek-r1:1.5b
,根据您的需求选择合适的模型版本。在API配置页面,您会看到一个“API密钥”输入框。此时,不需要填写API密钥,只需确保API地址和端口配置正确。单击API密钥右侧的“检查”按钮,如果页面显示“连接成功”,则表示配置已完成。
配置好模型服务后,您可以开始添加本地知识库文件,以便Cherry Studio能够从中提取信息并进行智能回答。
在Cherry Studio主界面,点击左侧导航栏中的“知识库”模块。
然后点击新建知识库,进行新建。
点击“上传文件”按钮,选择您希望添加到知识库的本地文件。
上传完成后,Cherry Studio会自动对文件进行解析和向量化处理,并建立索引。处理时间取决于文件的大小和数量,通常需要几分钟时间。
添加知识库文件成功后,您可以在知识库模块中查看已添加的文件列表。配置完成后,您可以开始使用Cherry Studio进行智能问答:
通过本文的指导,您已经成功下载并配置了Cherry Studio,连接到腾讯云HAI上部署的DeepSeek模型,并搭建了一个功能强大的个人知识库。Cherry Studio不仅支持多种大语言模型,还提供了便捷的知识库管理和智能问答功能,极大提升了信息检索和知识管理的效率。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。