:::color5 更新于2023年3月
:::
1、什么是LoRA
:::color5 省流：LoRA是一个通过少量训练得到的小模型，可以和大模型结合使用，干涉大模型的产生结果，帮助我们得到想要的图片效果。
简单来说，LoRA模型为我们提供了更便捷更自由的微调模型，能够使我们在底膜的基础上，进一步指定整体风格、指定人脸等等，而且lora模型非常的小，大部分都只有几十MB，非常的方便！:::
概括
详细原理分析：https://www.cnblogs.com/huggingface/p/17108402.html
LoRA（全称 Low-Rank Adaptation of Large Language Models）是微软研究员引入的一项新技术，主要用于处理大模型微调的问题。目前超过数十亿以上参数的具有强能力的大模型 (例如 GPT-3) 通常在为了适应其下游任务的微调中会呈现出巨大开销。 LoRA 建议冻结预训练模型的权重并在每个 Transformer 块中注入可训练层 (秩-分解矩阵)。因为不需要为大多数模型权重计算梯度，所以大大减少了需要训练参数的数量并且降低了 GPU 的内存要求。
Stable Diffusion 的全模型微调过去既缓慢又困难，这也是 Dreambooth 或 Textual Inversion 等轻量级方法变得如此流行的部分原因。使用 LoRA，在自定义数据集上微调模型要容易得多。
"Low-Rank Adaptation of Large Language Models (LoRA)"是一种用于适应大型语言模型的低秩近似方法。LoRA的目标是通过学习低秩的参数矩阵来减少语言模型的存储和计算成本，同时保持高精度的预测性能。在LoRA方法中，使用了一种称为"structured random projection"的技术来压缩语言模型的参数，并且通过在小型数据集上微调新的低秩参数来适应特定任务。LoRA方法已经在各种自然语言处理任务上得到了验证，包括语言建模、文本分类、命名实体识别等。
概括
详细原理分析：https://www.cnblogs.com/huggingface/p/17108402.html
LoRA（全称 Low-Rank Adaptation of Large Language Models）是微软研究员引入的一项新技术，主要用于处理大模型微调的问题。目前超过数十亿以上参数的具有强能力的大模型 (例如 GPT-3) 通常在为了适应其下游任务的微调中会呈现出巨大开销。 LoRA 建议冻结预训练模型的权重并在每个 Transformer 块中注入可训练层 (秩-分解矩阵)。因为不需要为大多数模型权重计算梯度，所以大大减少了需要训练参数的数量并且降低了 GPU 的内存要求。
Stable Diffusion 的全模型微调过去既缓慢又困难，这也是 Dreambooth 或 Textual Inversion 等轻量级方法变得如此流行的部分原因。使用 LoRA，在自定义数据集上微调模型要容易得多。
"Low-Rank Adaptation of Large Language Models (LoRA)"是一种用于适应大型语言模型的低秩近似方法。LoRA的目标是通过学习低秩的参数矩阵来减少语言模型的存储和计算成本，同时保持高精度的预测性能。在LoRA方法中，使用了一种称为"structured random projection"的技术来压缩语言模型的参数，并且通过在小型数据集上微调新的低秩参数来适应特定任务。LoRA方法已经在各种自然语言处理任务上得到了验证，包括语言建模、文本分类、命名实体识别等。
2、安装LoRA插件
按下图操作打开拓展库
【ctrl+F】打开搜索框，搜【kohya】，找到【Kohya-ss Additional Networks】安装，安装完重启界面。
打开看到这个就ok了。
3、LoRA文件在哪里下载
:::color5 Civitai 点我前往
:::
4、LoRA文件要放到哪里？
:::color5
stable-diffusion-webui\models\Lora\:::
直接将下载的文件丢进去就行。
点击这里查看选择模型，如果没有模型的话，关掉网页窗口和cmd窗口，重新打开。
C站文件放哪里的指引，其他在C站下的不同类型文件也可以在这里查看
C站文件放哪里的指引，其他在C站下的不同类型文件也可以在这里查看
5、如何使用LoRA
下载该人物模型文件并放到lora文件夹里。
https://civitai.com/models/4503/amber-genshin-impact-lora
正常使用文生图，输入关键词，调整参数。
然后是lora的使用。
点击生成出图。
可以多个lora模型同时使用，多试试调整权重会有不同惊喜。
使用lora干涉出图
未使用lora干涉出图
6、LoRA分层控制
若有收获，就点个赞吧
0 人点赞
