前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >基于腾讯云快速搭建廉价实用的混元大模型工作流平台

基于腾讯云快速搭建廉价实用的混元大模型工作流平台

原创
作者头像
秦若逸Rois
发布于 2024-07-26 15:46:51
发布于 2024-07-26 15:46:51
7200
举报

腾讯云的高性能应用服务(HAI)是一个性价比高(1.2元/小时)、开箱即用的好产品。近期在客户项目里,我需要搭建一个混元大模型应用原型,用于客户演示、确认需求。通过HAI,我在十几分钟之内就完成了开源工作流平台Dify的搭建,特分享相关方法。

一、购买腾讯云相关服务

1、登录腾讯云账号

2、登录https://console.cloud.tencent.com/hunyuan开启混元大模型服务。点击“创建密钥”,新建密钥之后记录SecretID和SecretKey。(注意,SecretKey只能在创建时查看,注意保存)

3、登录 https://buy.cloud.tencent.com/hai 购买高性能应用服务(建议选海外机器),选择“基础环境”里面的“Ubuntu 20.4.3”。

4、在“高性能应用服务”的控制台里,记录新建Ubuntu机器的IP(机器每次重启IP都会改变);从腾讯云主页右上角进入“站内信”,从最新的站内信里记录Ubuntu机器的用户名和密码

5、下载任意一款SSH客户端软件,填入上述记录的IP、账号、密码、端口(22),然后登录Ubuntu机器

二、安装Docker Compose

1. 更新系统软件包:

sudo apt-get update

2. 下载Docker Compose的最新版本:

sudo curl -SL https://github.com/docker/compose/releases/download/v2.29.1/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose

注:如需使用最新版本,可访问GitHub发布页面( https://github.com/docker/compose/releases )查看最新版本号,替换上面指令里的“V2.29.1”

3. 为下载的二进制文件添加可执行权限:

sudo chmod +x /usr/local/bin/docker-compose

4. 验证Docker Compose是否安装成功:

docker-compose --version

如果安装成功,会显示Docker Compose的版本号。

三、安装开源工作流平台Dify

1、通过Github安装并运行Dify:

sudo git clone https://github.com/langgenius/dify.git

cd dify

cd docker

sudo docker-compose up -d

2、在浏览器上访问 http://xx.xx.xx.xx/install 进入 Dify 控制台,并开始初始化安装操作。下次关机重启之后,浏览器访问 http://xx.xx.xx.xx 即可登录Dify。请将“xx.xx.xx.xx”自行替换成当前最新的Ubuntu机器IP。

3、注册管理员账号并登录

4、配置混元大模型

1)从Dify页面右上角的控制台进入“设置”

2)在“模型供应商”里面选择Tencent HunYuan

3)将“一.2”记录的SecretID和SecretKEY填写进去,保存

5、你可以调用混元大模型来自由创建工作流了!下面是我做的一个工作流样例。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
HAI - 腾讯混元3D模型一键部署
腾讯混元 3D 模型是一款先进的大规模 3D 资产创作系统,它可以用于生成带有高分辨率纹理贴图的高保真度 3D 模型。该系统包含两个基础组件:一个大规模几何生成模型——混元 3D-DiT,以及一个大规模纹理生成模型——混元 3D-Paint。几何生成模型基于流扩散的扩散模型构建,旨在生成与给定条件图像精确匹配的几何模型,为下游应用奠定坚实基础。
geru
2024/11/12
1.9K0
手把手带你搭建个人AI知识库-腾讯云TDP
随着AI浪潮的汹涌澎湃,AI知识库正逐渐成为众人瞩目的焦点。如今,腾讯云TDP团队将倾囊相授,手把手带你搭建属于自己的个人AI知识库。
MGS浪疯
2025/02/28
9183
新手操作指引:快速上手腾讯混元大模型
腾讯混元大模型是一款功能强大的AI工具,适用于文本生成、图像创作和视频生成等多种应用场景。对于新手用户,快速上手并充分利用这一工具可能会有些挑战。本文将提供详细的新手操作指引,帮助您轻松开始使用腾讯混元大模型。
Echo_Wish
2024/09/12
6990
RAG 实践:基于混元大模型与腾讯云ES,十分钟构建你的专属 AI 助手
随着数据智能技术的不断发展,以大语言模型(LLM)驱动的AIGC为代表的内容生成技术已经成为企业数据智能能力中不可或缺的一部分,但传统的内容生成技术存在信息更新不及时、垂直领域知识匮乏、模型幻觉等问题,如何推进大模型在各行业、各业务场景落地是各方普遍关注的问题,而检索增强生成(Retrieval-Augmented Generation,RAG)技术则为此提供了有效的解决方案,成为数据智能时代的一大趋势。
用户10398750
2024/10/16
7380
腾讯混元又来开源,一出手就是最大MoE大模型
随着人工智能技术的快速发展,大型语言模型(LLMs)在自然语言处理、计算机视觉和科学任务等领域取得了显著进展。然而,随着模型规模的扩大,如何在保持高性能的同时优化资源消耗成为关键挑战。为了应对这一挑战,腾讯混元团队率先采用混合专家(MoE)模型架构,最新发布的 Hunyuan-Large(Hunyuan-MoE-A52B)模型,是目前业界已经开源的基于 Transformer 的最大 MoE 模型,拥有 389B 总参数和 52B 激活参数。
机器之心
2025/02/14
1890
腾讯混元又来开源,一出手就是最大MoE大模型
混元大模型,API免费发放,又一个王炸级更新!
混元大模型(英文名:HunYuan)是由腾讯开发的大型语言模型,它可以进行丰富的语义理解和计算,为用户提供问答式的服务。基于大量的训练数据和先进的深度学习技术,混元大模型能够处理各种类型的问题和任务,涵盖知识问答、建议、解决问题等多个方面。
不惑
2024/05/08
1.7K0
混元大模型,API免费发放,又一个王炸级更新!
评测腾讯混元大模型,python调用混元生文接口
想丰富腾讯混元python sdk 调用混元大模型的实例。下面介绍python实现混元生文接口ChatCompletions实例。
用户9295575
2024/09/13
5620
实战教学:用Semantic Kernel框架集成腾讯混元大模型应用
腾讯混元大模型(Tencent Hunyuan)是由腾讯研发的大语言模型,具备强大的中文创作能力,复杂语境下的逻辑推理能力,以及可靠的任务执行能力。具体参见:腾讯混元大模型-腾讯云 (tencent.com)。
TVP官方团队
2024/01/27
2.7K0
实战教学:用Semantic Kernel框架集成腾讯混元大模型应用
dify:开源 LLMOps平台。
dify/README_CN.md at main · langgenius/dify · GitHub
黄规速
2024/05/24
10.3K0
dify:开源 LLMOps平台。
基于腾讯云语音服务+混元大模型实现端对端语音交互对话开发指引
通过借助 TTS-LLM-STT 技术,实现用户自然的与大模型进行语音对话交互(变相实现端对端的大模型语音交互),来实现企业客服的智能化替代,并减少人工坐席的数量和工作量;
用户1130261
2024/10/24
1.3K0
基于腾讯云语音服务+混元大模型实现端对端语音交互对话开发指引
AI实用指南:5分钟搭建你自己的LLM聊天应用
今天,我们将迅速着手搭建一个高效且富有创意的混元聊天应用,其核心理念可以用一个字来概括——快。在这个快节奏的时代,构建一个基础的LLM(Large Language Model,大型语言模型)聊天应用并不需要耗费太多时间。市面上充斥着各种功能强大的大型语言模型,我们可以根据项目需求灵活选择,而今天的目标并非深入探讨这些模型的技术细节,而是将重点放在如何快速上手。
努力的小雨
2024/03/26
5660
RAG 实践:腾讯云ES&混元,十分钟构建你的专属 AI 助手
随着数据智能技术的不断发展,以大语言模型(LLM)驱动的 AIGC 为代表的内容生成技术已经成为企业数据智能能力中不可或缺的一部分,但传统的内容生成技术存在信息更新不及时、垂直领域知识匮乏、模型幻觉等问题,如何推进大模型在各行业、各业务场景落地是各方普遍关注的问题,而检索增强生成(Retrieval-Augmented Generation,RAG)技术则为此提供了有效的解决方案,成为数据智能时代的一大趋势。
腾讯QQ大数据
2024/10/10
6350
RAG 实践:腾讯云ES&混元,十分钟构建你的专属 AI 助手
0帧起手将腾讯混元大模型集成到Spring AI的全过程解析
在前面,我们已经为大家铺垫了大量的知识点,并深入解析了Spring AI项目的相关内容。今天,我们将正式进入实战环节,从零开始,小雨将带领大家一步步完成将第三方大模型集成到Spring AI中的全过程。为了方便讲解,本次实战的示范将以腾讯的混元大模型为主,我们将逐步向你展示如何将该大模型嵌入到Spring AI中,并利用其强大的能力,帮助你个性化地完成企业级Agent的智能体开发。
努力的小雨
2025/01/26
7057
腾讯混元宣布大语言模型和3D模型正式开源!
11月5日,腾讯混元宣布最新的MoE模型“混元Large“以及混元3D生成大模型“ Hunyuan3D-1.0”正式开源,支持企业及开发者精调、部署等不同场景的使用需求,可在HuggingFace、Github等技术社区直接下载,免费可商用。
腾讯开源
2025/02/05
6130
腾讯混元宣布大语言模型和3D模型正式开源!
腾讯混元:开源模型生图时间缩短75%!
开源不到一个月,腾讯混元文生图大模型(混元DiT模型)的Github Star数已达到2.1k,位于开源社区热门DiT模型前列!
小腾资讯君
2024/06/06
4430
在Node.js中借助腾讯云SDK调用混元大模型
随着人工智能技术的不断发展,强大的大模型如腾讯的混元大模型(HunYuan)为开发者提供了丰富的智能服务能力。本文将详细介绍如何在 Node.js 环境中使用腾讯云提供的 SDK 调用混元大模型,构建一个简单的 API 接口来实现与模型的交互。
Front_Yue
2025/01/08
4400
在Node.js中借助腾讯云SDK调用混元大模型
从0开始搭建免费大模型平台
然后他会在当前目录下生成data目录,这个目录就是默认数据库sqlite的数据持久化目录。
用户10786849
2024/06/18
3080
从0开始搭建免费大模型平台
国产AI大崛起!谈谈我的24年大模型工作流,NAS部署
「亲爱的粉丝朋友们好啊!今天熊猫又来介绍好玩有趣的Docker项目了,喜欢的记得点个关注哦!」
熊猫不是猫
2025/02/02
2420
四种姿势敲开混元大模型之门,你会选哪一种?
蛋先生:我还以为有啥大新闻呢。没错,千呼万唤始出来,腾讯云终于也发布了自己的大模型服务,个人开发者也可以用,而且还有免费版哦!
蛋先生DX
2024/09/21
3660
四种姿势敲开混元大模型之门,你会选哪一种?
腾讯混元发布开源加速库,生图时间缩短75%
6月6日,腾讯发布针对腾讯混元文生图开源大模型(以下简称为腾讯混元DiT模型)的加速库,让推理效率大幅提升,生图时间缩短75%。 //使用门槛,降低了 腾讯混元DiT模型的使用门槛也大幅降低。用户可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型能力。同时,腾讯混元DiT模型已经部署至Hugging Face Diffusers通用模型库中,用户仅用三行代码即可调用腾讯混元DiT模型,无需下载原始代码库。 此前,腾讯宣布旗下的腾讯混元文生图大模型全面升级并对外开源,可供企业与个人开发者免费商用。这是业内首个中文原生的DiT架构文生图开源模型,支持中英文双语输入及理解;采用了与 sora 一致的DiT架构,不仅可支持文生图,也可作为视频等多模态视觉生成的基础。 腾讯混元DiT模型开源之后,受到了众多社区开发者的认可。开源不到一个月,项目Github Star数就超过2100,位于开源社区热门DiT模型前列。
腾讯开源
2024/06/13
3320
腾讯混元发布开源加速库,生图时间缩短75%
推荐阅读
相关推荐
HAI - 腾讯混元3D模型一键部署
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档