LoRAも少しずついろいろ新しい技術が出てきてて
Adafactor入れたと思ったら
こないだLoCONというものが出てそれ入れて試してる最中に
LyCORISに世代交代して今はそれで学習してるところ