Diffusers 怎么临时禁用 LoRA 但保留已加载权重

做 LoRA A/B 对比时，最稳妥的临时切换方式是调用 pipeline.disable_lora()。它会让当前推理回到基础模型权重，但已加载的 LoRA 仍留在 pipeline 中；对比完成后再调用 pipeline.enable_lora() 即可恢复，不需要重新下载或加载权重。

官方地址：https://huggingface.co/docs/diffusers/

临时禁用和重新启用是同一条状态链

Diffusers 的 LoRA 是挂在 denoiser、Transformer 或文本编码器等组件上的适配层。加载完成后，权重和适配器对象都属于 pipeline 状态。临时禁用只改变“推理时是否使用这些层”，并不把它们从内存结构中抹掉。

下面的最小示例适合做基础模型与 LoRA 输出对比。注释特意保留在代码里，方便以后把这段逻辑放进服务的灰度开关中：

import torch
from diffusers import AutoPipelineForText2Image

# 先创建基础 pipeline，再把 LoRA 载入同一个对象
pipe = AutoPipelineForText2Image.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    torch_dtype=torch.float16,
).to("cuda")
pipe.load_lora_weights(
    "jbilcke-hf/sdxl-cinematic-1",
    weight_name="pytorch_lora_weights.safetensors",
    adapter_name="cinematic",
)

# 只关闭当前 LoRA 层，已加载权重仍保留在 pipe 中
pipe.disable_lora()
base_image = pipe("a quiet reading room").images[0]

# 对比结束后重新启用原来的适配器，不需要再次 load
pipe.enable_lora()
lora_image = pipe("a quiet reading room").images[0]

这里的关键不是把 LoRA 的比例改成某个经验值，而是明确切换入口。恢复时使用同一个 pipeline，能避免重新加载带来的网络、显存和初始化开销。若服务是并发的，还应把启用状态当作共享状态管理，避免一个请求禁用 LoRA 时影响另一个请求。

禁用、卸载、删除不要混用

三个方法的名字很像，后果却不同。选择前先问自己：这次操作是为了比较一次输出，还是为了释放资源、彻底移除某个适配器？

因此，单纯为了暂时禁用，不能用 unload_lora_weights() 代替。卸载后再启用并不会自动找回权重；需要重新加载。若是 fuse_lora() 已经把权重融合进基础模型，则应按官方支持的 unfuse/fuse 生命周期处理，不能把 fused 状态当成普通的 disable 开关。

多适配器时先确认当前状态

如果一个 pipeline 里装了多个 LoRA，建议加载时显式命名，并在切换前把状态打印出来。下面的代码不依赖重新加载，主要用于排查“我以为关掉了，实际还有适配器参与”的情况：

# 查看当前激活的适配器，以及每个组件登记了哪些适配器
print(pipe.get_active_adapters())
print(pipe.get_list_adapters())

# 全局临时回到基础模型；这里不会删除 adapter
pipe.disable_lora()

# 需要恢复时重新打开当前激活的 LoRA 层
pipe.enable_lora()

如果目标只是让某个适配器影响变弱，可以用 set_adapters() 配合层级 scale；文档中的 scale 为 0 等价于只使用基础模型权重，但它适合精细调节，不等同于“把所有 LoRA 暂停”。先用全局禁用解决明确的 A/B 对比，再做单适配器调参，排查会更简单。

常见问题

disable_lora 会释放 LoRA 占用的显存吗？

不要把它当作显存回收接口。它的职责是禁用当前 LoRA 层，权重仍保留在 pipeline 中；需要释放或移除时再评估卸载、删除或设备迁移。

重新 enable_lora 前需要再次 set_adapters 吗？

普通单适配器场景不需要，先前的 active adapter 状态仍由 pipeline 保留。多适配器切换后，先用状态查询方法确认当前激活集合，再恢复更稳妥。

为什么不用 delete_adapters 做临时开关？

因为 delete 会移除指定适配器及其层，临时对比结束后不能靠 enable 自动恢复，必须重新加载。