> バージョンが違う感じなんでしょうかね。
おんなじやで
やがJapanese-TextGen-MoEはコンテキスト4096(C4K)までしか対応しとらんはずやで
VRAM 11GやったらJapanese-TextGen-Kageの16384(C16K)のL33がギリギリ載るか載らんかあたりちゃうかな
実際に使ってみてコンテキストサイズのあまり具合を確認しながら調整したらええかと
長大なコンテキストを全部ちゃんと活用してくれるわけでもないんで
効率的にまとめられたプロンプトなら8192ぐらいで落ち着きそうな気もするわ