症状
-
刚开始运行时,或在采样途中,出现红色错误画面,处理中断。
-
终端里会出现
torch.cuda.OutOfMemoryError,以及有关 VRAM 使用量的信息。
出现时机
- 用较大的分辨率或较大的 batch size 运行 Flux / 视频模型等较重的模型时。
原因
- 模型+图像尺寸+batch size 的组合,超出了 GPU 的 VRAM 容量。
解决方法
- 把 batch size 设为 1,分辨率也降到模型的推荐值(SD1.5 为 512~768px,SDXL 为 1024px 左右)。
- 如果还是不行,就换用更轻的模型,或者考虑量化模型(gguf / nf4 等)
- 再不行的话,就老老实实升级 GPU 吧。