前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >丹摩征文活动|FLUX.1+ComfyUI高效部署策略与实践

丹摩征文活动|FLUX.1+ComfyUI高效部署策略与实践

作者头像
Eternity._
发布2024-11-12 08:23:14
940
发布2024-11-12 08:23:14
举报
文章被收录于专栏:登神长阶

前言:从最初的命令行界面,到图形用户界面(GUI),再到如今的智能化、个性化交互体验,每一次技术的革新都为我们带来了前所未有的便捷与惊喜。而在这个充满无限可能的舞台上,丹摩平台凭借其卓越的创新能力和深厚的技术积累,为我们呈现了一个全新的交互体验——FLUX.1+ComfyUI。

FLUX.1,作为丹摩平台精心打造的核心技术框架,不仅集成了先进的人工智能算法、大数据分析以及云计算能力,更在用户体验设计上实现了质的飞跃。它打破了传统交互模式的界限,通过更加自然、流畅的方式,让用户能够轻松与数字世界进行无缝连接。而ComfyUI,则是FLUX.1框架下的一颗璀璨明珠,它以用户为中心的设计理念,将舒适性、便捷性和美观性完美融合,为用户带来了一种前所未有的交互享受。

1. FLUX.1简介

FLUX.1是由黑森林实验室(Black Forest Labs)开发的一款尖端AI图像生成模型

技术背景与特点:

  • FLUX.1采用了混合架构,结合了Transformer网络在文本理解方面的优势和扩散模型在图像生成方面的强大能力,使得模型在生成逼真图像方面表现出色。
  • 该模型支持多种创作风格,包括现实主义、动漫、幻想和插画等,适用于艺术、设计、广告和社交媒体等多个领域。
  • FLUX.1还具备出色的视觉质量、对提示的高响应能力以及多样化的输出风格,能够精确渲染人体解剖结构,解决了早期模型中常见的解剖学错误。

版本与功能: FLUX.1提供多个版本,以满足不同用户的需求:

  • FLUX.1-pro(闭源):这是FLUX.1的顶级版本,提供最先进的图像生成能力。它具备极高的提示词识别、视觉质量、图像细节和输出多样性。该版本可通过官方API访问,并提供企业定制化服务。
  • FLUX.1-dev(开源不可商用):这个版本从FLUX.1-pro提炼而来,具备相似的提示词能力和图像生成质量,且效率优于标准模型。它非常适合开发者作为实验平台使用。
  • FLUX.1-schnell(开源可商用):这个版本适合本地开发和个人使用,遵循Apache2.0许可协议。它专注于提升生成速度和减少内存占用,为用户提供更流畅的使用体验。

FLUX.1模型的训练参数达到了120亿,这一数字远远超过了SD3 Medium的20亿参数。无论是FLUX.1-pro还是FLUX.1-dev,在图像质量、提示词的准确跟随、尺寸适应性、排版以及输出的多样性方面,都已经超越了市场上的Midjourney v6.0、DALL·E 3 (HD)和SD3-Ultra等流行模型,确立了图像合成技术的新高度。

2. 部署流程


创建资源


进入控制台-GPU云实例,点击创建实例:

我们这里只是短期需求,可以选择按量付费,其次选择GPU数量和需求的GPU型号。

创建实例推荐选择:

  • 按量付费
  • GPU数量1
  • NVIDIA-GeForc-RTX-4090:该配置为60GB内存,24GB的显存(本次测试的LLaMA3.1 8B 版本至少需要GPU显存16G)

每个实例默认附带了50GB的数据硬盘,FLUX.1模型较大,建议扩容至150GB。

继续选择安装的镜像,这里筛选PyTorch,选择PyTorch 2.4.0。

创建密钥,输入自定义的名称,然后选择自动创建并将创建好的私钥保存的自己电脑中并将后缀改为.pem,以便后续本地连接使用。

创建好密钥对后,选择刚刚创建好的密钥对,并点击立即创建,等待一段时间后即可启动成功!

登录实例

接下来将基于平台提供的JupyterLab工具,演示fp16版本的部署流程。

首先,启动JupyterLab,并创建终端:

部署ComfyUI


在终端中执行以下命令克隆ComfyUI代码:

代码语言:javascript
复制
# github官方代码仓库
git clone https://github.com/comfyanonymous/ComfyUI.git
# gitCode-github加速计划代码仓库
git clone https://gitcode.com/gh_mirrors/co/ComfyUI.git

克隆完成后可看到如下目录:

终端进入/root/workspace/ComfyUI目录,执行以下命令,安装ComfyUI需要的依赖:

代码语言:javascript
复制
cd ComfyUI/
pip install -r requirements.txt --ignore-installed

执行以下命令,启动ComfyUI:

代码语言:javascript
复制
python main.py --listen

看到服务成功启动,说明ComfyUI部署成功!

错误处理:我在这里就出现了问题,您如果遇到报错,可先卸载冲突包,再次安装依赖

代码语言:javascript
复制
# 安装依赖
pip uninstall psutil
pip install -r requirements.txt --ignore-installed

部署FLUX.1


平台已预制FLUX.1相关资源,我们可通过内网高速下载:

代码语言:javascript
复制
# 下载完整FLUX.1-dev模型
wget http://file.s3/damodel-openfile/FLUX.1/FLUX.1-dev.tar
# 下载完整FLUX.1-schnell模型
wget http://file.s3/damodel-openfile/FLUX.1/FLUX.1-dev.tar
# 下载完整Clip模型
wget http://file.s3/damodel-openfile/FLUX.1/flux_text_encoders.tar

以FLUX.1-dev为例演示,首先下载完整FLUX.1-dev模型:

代码语言:javascript
复制
wget http://file.s3/damodel-openfile/FLUX.1/FLUX.1-dev.tar

解压文件:

代码语言:javascript
复制
tar -xf FLUX.1-dev.tar

解压后完成后可看到如下目录:

我们需要把其中的一些文件移至ComfyUI指定目录:

  • 大模型文件flux1-dev.safetensors需要移动至/root/workspace/ComfyUI/models/unet/文件夹中
  • vae文件ae.safetensors需移动至/root/workspace/ComfyUI/models/vae/文件夹中
代码语言:javascript
复制
# 进入解压后的文件夹
cd /root/workspace/FLUX.1-dev
# 移动文件
mv flux1-dev.safetensors /root/workspace/ComfyUI/models/unet/
mv ae.safetensors /root/workspace/ComfyUI/models/vae/

接下来下载完整Clip模型:

代码语言:javascript
复制
# 进入JupyterLab根目录
cd /root/workspace
# 下载文件
wget http://file.s3/damodel-openfile/FLUX.1/flux_text_encoders.tar

解压文件:

代码语言:javascript
复制
tar -xf flux_text_encoders.tar

解压后完成后可看到如下目录:

我们需要把其中的一些文件移至ComfyUI指定目录:

代码语言:javascript
复制
# 进入解压后的文件夹
cd /root/workspace/flux_text_encoders
# 移动文件
mv clip_l.safetensors /root/workspace/ComfyUI/models/clip/
mv t5xxl_fp16.safetensors /root/workspace/ComfyUI/models/clip/

所有准备工作完成!

3. 使用流程


运行FLUX.1


终端进入ComfyUI目录,执行以下命令,启动ComfyUI:

代码语言:javascript
复制
cd /root/workspace/ComfyUI
python main.py --listen

我们看到启动成功,host为0.0.0.0,端口为8188:

代码语言:javascript
复制
Starting server

To see the GUI go to: http://0.0.0.0:8188

接下来我们需要通过丹摩平台提供的端口映射能力,把内网端口映射到公网;

进入GPU 云实例页面,点击操作-更多-访问控制:

点击添加端口,添加服务对应端口:

添加成功后,通过访问链接即即可打开ComfyUI交互界面:

4. 导入工作流


我们保存图片,然后在ComfyUI中加载或拖动以下图像以获取工作流

FLUX.1-dev-FP16:

FLUX.1-schnell-FP16

5. 实践感想

随着我在丹摩平台上FLUX.1+ComfyUI部署实践的深入,我深刻感受到了这一组合带来的巨大变革与无限可能。FLUX.1以其卓越的图像生成能力和多样化的风格选择,为艺术创作、广告设计和产品渲染等领域注入了新的活力。而ComfyUI的加入,更是将这一潜力发挥到了极致,为用户提供了一个直观、便捷且高效的交互界面。

我也深刻体会到了ComfyUI在设计上的精妙之处,它不仅仅是一个工具,更是一种全新的交互体验,让用户能够轻松驾驭FLUX.1的强大功能,创造出令人惊叹的作品。

我相信在丹摩平台的持续支持和推动下,FLUX.1+ComfyUI将不断进化,为用户带来更加卓越的使用体验。同时,我也期待自己能够在未来的实践中不断学习和成长,为人工智能技术的发展贡献自己的力量。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2024-11-11,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1. FLUX.1简介
  • 2. 部署流程
    • 创建资源
      • 登录实例
        • 部署ComfyUI
          • 部署FLUX.1
          • 3. 使用流程
            • 运行FLUX.1
            • 4. 导入工作流
            • 5. 实践感想
            相关产品与服务
            GPU 云服务器
            GPU 云服务器(Cloud GPU Service,GPU)是提供 GPU 算力的弹性计算服务,具有超强的并行计算能力,作为 IaaS 层的尖兵利器,服务于生成式AI,自动驾驶,深度学习训练、科学计算、图形图像处理、视频编解码等场景。腾讯云随时提供触手可得的算力,有效缓解您的计算压力,提升业务效率与竞争力。
            领券
            问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档