简介
ControlNet is a neural network structure to control diffusion models by adding extra conditions.GitHub - lllyasviel/ControlNet: Let us control diffusion models
简单来说 ControlNet 能从指定图像中提取中结构,构图,或者深度信息,用于指导 Stable Diffusion 生成指定结构或者构图的图。
不同模型效果
ControlNet 可以通过指定不同的模型指导构图,比如 canny,pose,depth,也可以通过给定线稿,色块图等不同模型指导构图。
Canny
比如 Canny 模型,通过边缘检测提取线稿指导构图。
Pose
比如 openpose 模型,提取骨骼姿势指导构图。
Depth
比如 depth 模型,提取图像深度信息指导构图。
模型下载地址
webui/ControlNet-modules-safetensors at main
sd-webui-controlnet 插件使用方法
该插件用于在 SD-webui 中使用 controlnet:
GitHub - Mikubill/sd-webui-controlnet: WebUI extension for ControlNet
1. 插件安装
在 Extensions 中,选择加载可用,搜索 sd-webui-controlnet ,并安装,安装完后切换到 installed,然后”
应用并重新加载“
2. 模型下载
在 https://huggingface.co/webui/ControlNet-modules-safetensors/tree/main 中下载想要的模型,推荐:
将下载的模型放到 models/ControlNet 文件夹中。
3. 启用 ControlNet
开启 enable,注意处理器和模型要对应,比如 canny 的处理器就对应 canny 的模型
本机效果
自己尝试效果如下:
原图 | 输入 | 输出 |
---|---|---|
参考
参考秋叶的视频
【AI绘画】完美控制画面!告别抽卡时代 人物动作控制/景深/线稿上色 Controlnet安装使用教程_哔哩哔哩_bilibili
AI绘画:Stable Diffusion Web UI(八)ControlNet 2
推荐:
30分钟零基础掌握ControlNet!绝对是你看过最好懂的控制网原理分析 | 基本操作、插件安装与5大模型应用 · Stable Diffusion教程_哔哩哔哩_bilibili