VRAM32もあるならllamacppとかにあるoverride tensorうまく設定したら速くならんかな
もうやってたらすまん