なんJLLM部 避難所 ★9
カスタマイズさせた会話を成り立たせるのは32B以上じゃないと無理では？ >>871
主流がMoEモデルに移行したから小型のモデルを弄くり回す意味も消えたな
メインメモリガン積みすればご家庭のPCで235Bが動くんだから
小細工するヒマがあったらメモリを増設すればいい
そのメモリも超絶価格高騰中だからケチってた奴はさらに突き放される流れ Mac Studio（M3 Ultra）とDGX Sparkでgpt-oss-120bの比較
https://x.com/sunazukan/status/1987474685152633174
DGXはM3の7割位の速さとのこと
意外と早いんだね
このくらいの大きさになるとメモリ以外の性能も関わってくるからアレなのかな
まぁ、それでも買おうとは思わないけどw VRAM 16GBとメインメモリ128GBでエロチャットするのにオススメのMoEモデルを教えてくれ M4 maxでもgpt-oss-120bは60-70tk/sでるから
M3 Ultraは512GByteの力技で効いてくるんだな
128GByteじゃ動かないものは動かないから太刀打ちできん
M5 Ultraはmac proだけとか言わないでくれよ... 512gメモリって100万越えやろ？
それならDGXの2台接続と比較しないとおかしくないか 