0682名無しさん＠ピンキー (ﾜｯﾁｮｲ 3311-Mtf7)2024/07/27(土) 00:14:33.14ID:s9nYYsMX0 >>681 量子化のレベルはIQ3_M(モデルサイズ55GB)で、64GBのunified memoryにロードしてる 意外と量子化による影響はあまり感じない(ちゃんと計測したらなんらかの劣化はあるだろうが)
