腾讯云的高性能应用服务(HAI)是一个性价比高(1.2元/小时)、开箱即用的好产品。近期在客户项目里,我需要搭建一个混元大模型应用原型,用于客户演示、确认需求。通过HAI,我在十几分钟之内就完成了开源工作流平台Dify的搭建,特分享相关方法。
1、登录腾讯云账号
2、登录https://console.cloud.tencent.com/hunyuan,开启混元大模型服务。点击“创建密钥”,新建密钥之后记录SecretID和SecretKey。(注意,SecretKey只能在创建时查看,注意保存)
3、登录 https://buy.cloud.tencent.com/hai ,购买高性能应用服务(建议选海外机器),选择“基础环境”里面的“Ubuntu 20.4.3”。
4、在“高性能应用服务”的控制台里,记录新建Ubuntu机器的IP(机器每次重启IP都会改变);从腾讯云主页右上角进入“站内信”,从最新的站内信里记录Ubuntu机器的用户名和密码。
5、下载任意一款SSH客户端软件,填入上述记录的IP、账号、密码、端口(22),然后登录Ubuntu机器。
1. 更新系统软件包:
sudo apt-get update
2. 下载Docker Compose的最新版本:
sudo curl -SL https://github.com/docker/compose/releases/download/v2.29.1/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose
注:如需使用最新版本,可访问GitHub发布页面( https://github.com/docker/compose/releases )查看最新版本号,替换上面指令里的“V2.29.1”
3. 为下载的二进制文件添加可执行权限:
sudo chmod +x /usr/local/bin/docker-compose
4. 验证Docker Compose是否安装成功:
docker-compose --version
如果安装成功,会显示Docker Compose的版本号。
1、通过Github安装并运行Dify:
sudo git clone https://github.com/langgenius/dify.git
cd dify
cd docker
sudo docker-compose up -d
2、在浏览器上访问 http://xx.xx.xx.xx/install 进入 Dify 控制台,并开始初始化安装操作。下次关机重启之后,浏览器访问 http://xx.xx.xx.xx 即可登录Dify。请将“xx.xx.xx.xx”自行替换成当前最新的Ubuntu机器IP。
3、注册管理员账号并登录
4、配置混元大模型
1)从Dify页面右上角的控制台进入“设置”
2)在“模型供应商”里面选择Tencent HunYuan
3)将“一.2”记录的SecretID和SecretKEY填写进去,保存
5、你可以调用混元大模型来自由创建工作流了!下面是我做的一个工作流样例。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。