なんJLLM部避難所 ★9

2025/11/11(火) 03:22:23.69ID:1hIK3H7H0

VRAM 16GBとメインメモリ128GBでエロチャットするのにオススメのMoEモデルを教えてくれ

2025/11/11(火) 06:31:29.56ID:1O7LU6da0

M4 maxでもgpt-oss-120bは60-70tk/sでるから
M3 Ultraは512GByteの力技で効いてくるんだな
128GByteじゃ動かないものは動かないから太刀打ちできん
M5 Ultraはmac proだけとか言わないでくれよ...

0876名無しさん＠ピンキー (ﾜｯﾁｮｲ 7f19-k7gA)

2025/11/11(火) 07:18:17.11ID:ze1tTo6B0

512gメモリって100万越えやろ？
それならDGXの2台接続と比較しないとおかしくないか