前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >基于腾讯云快速搭建廉价实用的混元大模型工作流平台

基于腾讯云快速搭建廉价实用的混元大模型工作流平台

原创
作者头像
秦若逸Rois
发布2024-07-26 23:46:51
2550
发布2024-07-26 23:46:51

腾讯云的高性能应用服务(HAI)是一个性价比高(1.2元/小时)、开箱即用的好产品。近期在客户项目里,我需要搭建一个混元大模型应用原型,用于客户演示、确认需求。通过HAI,我在十几分钟之内就完成了开源工作流平台Dify的搭建,特分享相关方法。

一、购买腾讯云相关服务

1、登录腾讯云账号

2、登录https://console.cloud.tencent.com/hunyuan开启混元大模型服务。点击“创建密钥”,新建密钥之后记录SecretID和SecretKey。(注意,SecretKey只能在创建时查看,注意保存)

3、登录 https://buy.cloud.tencent.com/hai 购买高性能应用服务(建议选海外机器),选择“基础环境”里面的“Ubuntu 20.4.3”。

4、在“高性能应用服务”的控制台里,记录新建Ubuntu机器的IP(机器每次重启IP都会改变);从腾讯云主页右上角进入“站内信”,从最新的站内信里记录Ubuntu机器的用户名和密码

5、下载任意一款SSH客户端软件,填入上述记录的IP、账号、密码、端口(22),然后登录Ubuntu机器

二、安装Docker Compose

1. 更新系统软件包:

sudo apt-get update

2. 下载Docker Compose的最新版本:

sudo curl -SL https://github.com/docker/compose/releases/download/v2.29.1/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose

注:如需使用最新版本,可访问GitHub发布页面( https://github.com/docker/compose/releases )查看最新版本号,替换上面指令里的“V2.29.1”

3. 为下载的二进制文件添加可执行权限:

sudo chmod +x /usr/local/bin/docker-compose

4. 验证Docker Compose是否安装成功:

docker-compose --version

如果安装成功,会显示Docker Compose的版本号。

三、安装开源工作流平台Dify

1、通过Github安装并运行Dify:

sudo git clone https://github.com/langgenius/dify.git

cd dify

cd docker

sudo docker-compose up -d

2、在浏览器上访问 http://xx.xx.xx.xx/install 进入 Dify 控制台,并开始初始化安装操作。下次关机重启之后,浏览器访问 http://xx.xx.xx.xx 即可登录Dify。请将“xx.xx.xx.xx”自行替换成当前最新的Ubuntu机器IP。

3、注册管理员账号并登录

4、配置混元大模型

1)从Dify页面右上角的控制台进入“设置”

2)在“模型供应商”里面选择Tencent HunYuan

3)将“一.2”记录的SecretID和SecretKEY填写进去,保存

5、你可以调用混元大模型来自由创建工作流了!下面是我做的一个工作流样例。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、购买腾讯云相关服务
  • 二、安装Docker Compose
  • 三、安装开源工作流平台Dify
相关产品与服务
腾讯混元大模型
腾讯混元大模型(Tencent Hunyuan)是由腾讯研发的大语言模型,具备强大的中文创作能力,复杂语境下的逻辑推理能力,以及可靠的任务执行能力。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档