量子化あるで。これから試そうとダウンロード中

static quants とweighted/imatrix quantの違いはchatGPTに聞いてもよくわからんかった

https://huggingface.co/mradermacher/ChatWaifu_22B_v2.0_preview-i1-GGUF
https://huggingface.co/mradermacher/ChatWaifu_22B_v2.0_preview-GGUF