一、介绍一下LayerDiffusion
ControlNet作者最新推出的一项研究受到了一波高度关注——
给一句prompt,用Stable Diffusion可以直接生成单个或多个透明图层(PNG)! LayerDiffusion不仅可以生成单个透明图像,还可以生成多层图像,分离图像的前景和背景。 除了之外,还可以用于条件生成,如下面用透明的前景图像生成背景图像,或者基于背景图像生成透明的前景图像。也可以多次进行图层的混合
值得一提的是,作者还展示了如何把ControlNet引入进来,丰富LayerDiffusion的功能二、工作流
8个工作流,涉及透明背景创建、模型替换、背景添加、物体生成与抠图,以及老人坐像的提取与轮廓修复。
- 生成透明素材工作流
- 生成透明素材且有蒙版
- 上传透明(不要网络素材),给透明素材换背景
- 上传背景图片(如椅子),在提示词中生成前景(比如生成一个老人坐在椅子上)
- 上传背景图片和根据背景生成的老人坐在椅子上的图片,来把老人抠出来
- 上传透明素材(比如狗)和给透明素材换背景之后的图片(狗在街上),把狗在房间里p掉
- 直接p掉图片中透明元素不协调,所以要重绘一下,让它抠得更自然
三、相关工作流下载及目录
【相关工作流下载及目录】
链接:https://pan.baidu.com/s/1ZBR8xHUBlHQs1gofKVKDGw?pwd=01bo 提取码:01bo
选择Load,将网盘中的JSON文件导入ComfyUI即可【ComfyUI的LayerDiffusion插件安装】
打开ComfyUI Manager,选择Install Custom Nodes, 搜索 LayerDiffusion, 安装作者是huchenlei的这个版本即可
一般运行时会自动进行安装,如果模型安装遇到问题,也可以手动下载模型至ComfyUI的安装目录
ComfyUI\ComfyUI_windows_portable_nvidia_cu121_or_cpu\ComfyUI_windows_portable\ComfyUI\models\layer_model 这个文件夹里(如果没有可以自己建一下,就叫这个layer_model名字)
模型地址:链接:https://pan.baidu.com/s/16f32__LhxXThdjcSO8w_KA?pwd=equp 提取码:equp
【ComfyUI的保姆级安装】
https://www.yuque.com/u12148312/wooyoo-aigc-technology/rliukb6eht5bcclg?singleDoc# 《ComfyUI | ComfyUI安装使用》