0451名無しさん@ピンキー (ワッチョイ dead-PoTj)2024/05/20(月) 16:08:41.98ID:???0 あと、flash_attn=Trueにするとコンテキストに対するVRAM割当量が減るかもしれん