简介

ControlNet is a neural network structure to control diffusion models by adding extra conditions.

GitHub - lllyasviel/ControlNet: Let us control diffusion models

简单来说 ControlNet 能从指定图像中提取中结构,构图,或者深度信息,用于指导 Stable Diffusion 生成指定结构或者构图的图。

💖 【Doing】ControlNet 构图控制插件 - 图1


不同模型效果

ControlNet 可以通过指定不同的模型指导构图,比如 canny,pose,depth,也可以通过给定线稿,色块图等不同模型指导构图。

Canny

比如 Canny 模型,通过边缘检测提取线稿指导构图。

💖 【Doing】ControlNet 构图控制插件 - 图2

Pose

比如 openpose 模型,提取骨骼姿势指导构图。

💖 【Doing】ControlNet 构图控制插件 - 图3

Depth

比如 depth 模型,提取图像深度信息指导构图。

💖 【Doing】ControlNet 构图控制插件 - 图4

模型下载地址

webui/ControlNet-modules-safetensors at main

sd-webui-controlnet 插件使用方法

该插件用于在 SD-webui 中使用 controlnet:

GitHub - Mikubill/sd-webui-controlnet: WebUI extension for ControlNet

1. 插件安装

在 Extensions 中,选择加载可用,搜索 sd-webui-controlnet ,并安装,安装完后切换到 installed,然后”
应用并重新加载“

💖 【Doing】ControlNet 构图控制插件 - 图5

2. 模型下载

https://huggingface.co/webui/ControlNet-modules-safetensors/tree/main 中下载想要的模型,推荐:

💖 【Doing】ControlNet 构图控制插件 - 图6

将下载的模型放到 models/ControlNet 文件夹中。

3. 启用 ControlNet

开启 enable,注意处理器和模型要对应,比如 canny 的处理器就对应 canny 的模型

💖 【Doing】ControlNet 构图控制插件 - 图7

本机效果

自己尝试效果如下:

原图 输入 输出
💖 【Doing】ControlNet 构图控制插件 - 图8 canny
💖 【Doing】ControlNet 构图控制插件 - 图10
💖 【Doing】ControlNet 构图控制插件 - 图11 openpose 💖 【Doing】ControlNet 构图控制插件 - 图13

参考

参考秋叶的视频

【AI绘画】完美控制画面!告别抽卡时代 人物动作控制/景深/线稿上色 Controlnet安装使用教程_哔哩哔哩_bilibili

AI绘画:Stable Diffusion Web UI(八)ControlNet 2

推荐:

30分钟零基础掌握ControlNet!绝对是你看过最好懂的控制网原理分析 | 基本操作、插件安装与5大模型应用 · Stable Diffusion教程_哔哩哔哩_bilibili