>>448
>>451

色々よくわからないまま、設定を試しているので、的はずれな事言ってたら申し訳ないんですが、
今試したらn_gpu_layersは46が限界で、47にするとsegmentation faultでpythonが落ちちゃいます。
-1も同じく落ちますね。
あと、flash_attn=Trueにすると、出力が文字化けしてしまいます。