なんJLLM部避難所 ★9

672コメント229KB

なんJLLM部避難所 ★9

0667名無しさん＠ピンキー (ﾜｯﾁｮｲ cbdd-s4CX)

2025/10/16(木) 19:01:10.50ID:L7NqVyEC0

もしかするとMoEだとXeonやスリッパのヘキサチャンネルオクタチャンネルDDR5の方がLPDDR5より良くね？って思えて来た

0668名無しさん＠ピンキー (ﾜｯﾁｮｲ df67-s4CX)

2025/10/16(木) 20:12:37.09ID:cCpqskzq0

MoEモデル前提だとLPDDR5選ぶ理由はないわねえ
70Bあたりのdenseモデルがスカスカだから活かしどころがないのも難点

0669名無しさん＠ピンキー (ｽｯﾌﾟ Sd7f-p9PY)

2025/10/16(木) 20:15:02.24ID:mwCUko1ld

単一モデルでthink/no thinkモード切り替えみたいにnsfw/sfw切り替えできるようにならんかなー

0670名無しさん＠ピンキー (ﾜｯﾁｮｲ 3b10-dFrV)

2025/10/16(木) 21:00:16.02ID:iYqYpuLM0

think/no think切り替えとnsfw/sft切り替えは
本質的に同じだからできるんだけど
やってくれる人がいないんだろうねw
一番最初が一番儲かるからがんばってみては？

0671名無しさん＠ピンキー (ﾜｯﾁｮｲ 5f32-x06C)

2025/10/16(木) 21:02:19.78ID:1aA8IW440

>>667
もともと1gpuじゃ不足気味なジャンルってことでpcieレーン数的に向いてたけどメモリの帯域も恩恵受けだした状況ね

0672名無しさん＠ピンキー (JP 0Hff-s4CX)

2025/10/16(木) 22:43:43.59ID:S+c21Bm9H

ミニPCみたいなナリでオクタチャンネルのメモリ搭載してるMacStudioがやっぱ凄いわ

レスを投稿する