0637名無しさん@ピンキー (ワッチョイ 2ac7-y9b4)2025/07/16(水) 10:45:22.53ID:BNwIGceC0 >>631 メモリだけで1token/s出てるのでVRAM32GBではあまり効果ないね ちなみにKVキャッシュだけGPUにロードさせたら1.1token/s コンテキスト長はいずれもデフォルトの4K