0453名無しさん@ピンキー (ワッチョイ 0a65-Fooe)2024/05/20(月) 17:18:14.08ID:???0 >>448 >>451 色々よくわからないまま、設定を試しているので、的はずれな事言ってたら申し訳ないんですが、 今試したらn_gpu_layersは46が限界で、47にするとsegmentation faultでpythonが落ちちゃいます。 -1も同じく落ちますね。 あと、flash_attn=Trueにすると、出力が文字化けしてしまいます。