うまくやればDDR5 512GB + 16GB VRAM GPUで10t/sくらいは出るらしいし頑張れば100万円以内で動きそうではあるけど
まあプライバシー気にしないならAPIが楽、速い、安いの3得 そのうちopenrouter経由で無料で使えるようになるだろうし