肖像编辑的未来:驾驭ControlNet与LoRA模型

CN
ComfyUI.org
2025-03-22 05:52:27

解锁一致的肖像姿势迁移,运用ControlNet与LoRA模型。探索如何在保持面部特征、风格和细节的同时生成新姿势。了解更多!

使用场景
Portrait
适用场景
Portrait
关键节点
Controlnet
显存
中等显存(12–16GB)
阅读时间
9 分钟
查看所需模型更多 Portrait 工作流

工作流概览

解锁一致的肖像姿势迁移,运用ControlNet与LoRA模型。探索如何在保持面部特征、风格和细节的同时生成新姿势。了解更多!

内容类型: Workflow

主要用途: Download

所需模型

  • Flux
  • Controlnet
  • Lora

所需节点

  • Controlnet

配置说明

  • 打开工作流模板前,请先安装所需模型。
  • 推荐硬件:中等显存(12–16GB)。

✅ 工作流概述

m8jsnqls1q0ifoxn7sa5c3ec2112c3edfab1c98ce2f0fb17d95365646e78a5070444e37f7f896ff442.png

该工作流名为 「一致性人像换动作」,其目标是基于参考人像图像生成新的姿势,同时保持人像特征和风格一致。它通过 ControlNetLoRA 模型确保生成的新动作图像在面部细节、服装、风格等方面与参考图保持一致。

其核心功能包括:

  • ✅ 加载基础模型和 VAE

  • 🎯 使用 ControlNet 实现姿势控制

  • 🖼️ 基于参考图像生成新姿势图像

  • 🔥 使用 LoRA 模型保持人物特征一致

  • ⚙️ 图像对比与预览

该工作流非常适合 连贯性人像生成、角色一致性设计风格迁移 等任务。


🔥 核心模型

  1. Flux 基础模型

    • 名称:Flux Fill dev - fp8_黑森林官方重绘模型_fp8_e4m3fn

    • 功能:生成高质量图像,支持一致性风格和细节。

    • 加载方式:通过 UNETLoader 节点加载。

  2. LoRA 模型

    • 名称:ACE++_1.0

    • 功能:用于增强人像一致性,确保生成图像在面部、服饰等方面与参考图相似。

    • 权重:1.0

    • 加载方式:通过 LoraLoader 节点加载。

  3. ControlNet 模型

    • 名称:FLUX.1-dev-ControlNet-Union-Pro-InstantX.safetensors

    • 功能:基于姿势图像生成姿态控制图。

    • 加载方式:通过 ControlNetLoader 节点加载。

  4. Florence-2 模型

    • 名称:microsoft/Florence-2-base

    • 功能:视觉语言模型,用于图像特征提取。

    • 加载方式:通过 Florence2ModelLoader 节点加载。


🔧 组件说明

以下是工作流中涉及的关键节点解析:

🌟 基础模型加载

  • UNETLoader

    • 功能:加载基础模型。

    • 参数:

      • 模型名称:Flux Fill dev - fp8_黑森林官方重绘模型_fp8_e4m3fn

      • 精度:fp8_e5m2

    • 输出:模型数据,供采样器使用。

  • VAELoader

    • 功能:加载 VAE(变分自编码器),用于图像解码。

    • 参数:

      • 模型名称:ae.sft

    • 输出:VAE 数据,用于图像生成与解码。

🎯 LoRA 模型加载

  • LoraLoader

    • 功能:加载 LoRA 模型,保持人像特征一致。

    • 参数:

      • 模型名称:ACE++_1.0

      • 权重:1.0

    • 输出:

      • 模型数据:用于生成一致性人像。

      • CLIP 数据:用于文本编码。

🖼️ 参考图像与姿势图像处理

  • LoadImage

    • 功能:加载参考人像图像。

    • 参数:

      • 文件名:image.png

    • 输出:图像数据。

  • LoadImage(姿势图)

    • 功能:加载新的姿势参考图。

    • 参数:

      • 文件名:image.png

    • 输出:姿势图像数据。

  • DWPreprocessor

    • 功能:姿势检测预处理器,生成姿势关键点。

    • 参数:

      • 分辨率:512

      • 检测模型:

        • yolox_l.onnx(人体检测)

        • dw-ll_ucoco_384_bs5.torchscript.pt(姿势检测)

    • 输出:

      • 姿势图像

      • 姿势关键点数据

🔥 姿势控制与一致性生成

  • ControlNetLoader

    • 功能:加载 ControlNet 模型。

    • 参数:

      • 模型名称:FLUX.1-dev-ControlNet-Union-Pro-InstantX.safetensors

    • 输出:ControlNet 数据。

  • SetUnionControlNetType

    • 功能:设置 ControlNet 模型为 openpose 类型。

    • 输出:ControlNet 数据。

  • ControlNetApplyAdvanced

    • 功能:将姿势图与 ControlNet 应用到生成过程。

    • 参数:

      • 强度:0.9

      • 否定条件权重:0.3

    • 输出:

      • 正面条件

      • 负面条件

🔥 采样与生成

  • KSampler

    • 功能:基于模型、条件和 ControlNet 生成图像。

    • 参数:

      • 随机种子:597634329310649

      • 步数:30

      • CFG:1

      • 采样器类型:euler

      • Beta 调度:simple

    • 输出:潜在图像数据。

  • VAEDecode

    • 功能:将潜在图像解码为最终图像。

    • 输入:

      • 潜在图像

      • VAE

    • 输出:生成图像。

🛠️ 图像处理与对比

  • ImageResize+

    • 功能:调整图像尺寸,匹配参考图。

    • 参数:

      • 宽度:1024

      • 高度:1024

      • 插值算法:lanczos

    • 输出:调整后的图像。

  • ImagePadForOutpaint

    • 功能:对图像进行扩展处理。

    • 参数:

      • 扩展方向:

      • 扩展像素:40

    • 输出:

      • 扩展后的图像

      • 遮罩

  • ImageConcanate

    • 功能:将原图与生成图像拼接。

    • 参数:

      • 拼接方向:

    • 输出:拼接图像。

  • PreviewImage

    • 功能:生成图像预览。


🔍 工作流结构

工作流被拆分为多个 Group(分组):

  1. ✅ 基础模型加载

    • 位置:左上角

    • 功能:加载基础模型和 VAE。

    • 输入:模型路径

    • 输出:模型数据。

  2. 🎯 姿势图与参考图加载

    • 位置:左下角

    • 功能:加载姿势参考图与人物参考图。

    • 输入:图像文件

    • 输出:图像数据。

  3. 🔥 LoRA 模型选择

    • 位置:中间左侧

    • 功能:加载 LoRA 模型,保持人像一致性。

    • 输入:基础模型

    • 输出:增强后的模型。

  4. 🛠️ 姿势检测与 ControlNet 应用

    • 位置:中间

    • 功能:姿势检测与姿势控制。

    • 输入:姿势图像

    • 输出:姿势控制数据。

  5. 🖼️ 图像输出

    • 位置:右侧

    • 功能:生成并保存最终图像。

    • 输入:潜在图像、VAE

    • 输出:最终图像文件。


🔑 输入与输出

输入参数

  • 参考人像图像(image.png)

  • 姿势参考图像

  • Flux 模型与 LoRA 模型

  • ControlNet 模型

  • 随机种子:597634329310649

输出

  • 生成的人像新动作图像

  • 拼接对比图像

  • 图像预览


⚠️ 注意事项

  • ✅ 模型依赖:

    • 该工作流依赖于 ControlNet 和 LoRA 模型,请确保安装。

  • ⚡ 性能需求:

    • 推荐使用 12GB+ NVIDIA GPU 运行,保证生成效率。

  • ⚠️ 输出变化:

    • 不同随机种子会生成不同姿势图像。

    • LoRA 权重可调整一致性效果。

  • 🔥 优化建议:

    • 固定种子和分辨率以生成一致的风格图像。

常见问题