上で何度かおすすめされている
「Japanese-TextGen-MoE-TEST-2x7B-NSFW_iMat_Ch10_IQ4_XS」というのは、
EasyNovelAssistanの【モデル】項目からデフォルトで選択できるようになっている、
「Japanese-TextGen-MoE-TEST-2x7B-NSFW-IQ4_XS C4K」というやつとはバージョンが違う感じなんでしょうかね。
上記のほうが新しくて高性能のかなとは思うんで、HFからダウンロードだけはしてみたんですが、これをモデルとしてENAに追加する方法がまだわかってない状態です…
PC環境は
ryzen9-3900x、メモリ64GB、Geforce2080ti(mem43GB,vram11GB)なので、カードは古いけどメモリはまぁ大丈夫かなと思ってL33でコンテキストサイズもたっぷりにしたいんですが
何にしても多機能なんでまだまだこれからですね…