4070tisでqwq-32b-q4_0.gguf動いたわ
q4_k_mの方は一応ギリ動くけど出力に5分くらいかかった