LM Studioでmagnum-v4 9.5GBモデルなんだけどmistralよりちょっと遅いので
タスクマネージャーを見ると
4070のVRAMで、オフロード40/40で12GB中 10GBでcudaが35％でcpuが85％ぐらい
1秒で5文字ぐらいでポロポロ出る感じ

mistralは高速でcudaが95%、cpuが15%ぐらいとこれはモデルの差？
完全にGPUのVRAMに入っているとmistralぐらい速度が出るかなと思ったけど
cpuにかなり負荷をかけて遅く不思議なのでもし何か改善策があれば教えて欲しいです