>>435
それが今のところ、いいとこ2.5tpsくらいなんですよ。
n_ctx=4000
n_gpu_layers=45
とか色々設定変えて試しているんですが、
これで使用済みメモリが63.5GBのぎりぎりで、スワップが4GB。
METALもほぼMaxまで使われています。