日本語に対応したllamaの最新verは3.0なんじゃ
ローカルの無規制だったらmistral-nemoとかが8gbあれば動いて頭いいからやってみたら