グラボ何積んでますか？
自分1年前くらいにrtx3060にしたのですがLLMはちょっと厳しかったです。
今はいけるのかもですが、
むしろウェブ上のLLMの検問ってもう感じないイメージですね。
Claude っていうAIにユッキーのメモスト「なんて朝だよ」のテキスト途中まで読ませて
書いてもらいました。
https://files.catbox.moe/bmlhfu.png
https://files.catbox.moe/0t02ga.png
https://files.catbox.moe/2287pv.png
なんか著しく人間の尊厳を破壊するだの、幼児が出てくるだのしなければなんも文句言われません。