動画生成とかFLUXでよく聞くVRAM低減技術でFP8とかGGUFがある
VRAM漏れてない人からしたら高速化にはなり得ないと思われがちだが関係ある
VRAMに余裕が出ると言うことはbatch sizeを増やして同時生成枚数を増やして高速化できることになる
Tiled VAEを最適値に設定するとVRAM漏れなくなるのでbatch sizeを更に増やす余裕が生まれる
ハード的に考えるとVRAM多い方が同時生成数が増やせて速くなる
batch sizeやTiled VAEをイジらないとハードの限界性能は引き出せない