なんJLLM部 避難所 ★10
0001名無しさん@ピンキー 転載ダメ (ワッチョイ dfc7-Jvli)2025/11/23(日) 22:55:29.17ID:kt2SGedd0
!extend:checked:vvvvv:1000:512
!extend:checked:vvvvv:1000:512

AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC(できれば+3060 12GB以上)でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降

本スレ(避難中)
なんJLLM部 ★7
https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/
前スレ(実質本スレ)
なんJLLM部 避難所 ★8
https://mercury.bbspink.com/test/read.cgi/onatech/1746883112/
なんJLLM部 避難所 ★9
https://mercury.bbspink.com/test/read.cgi/onatech/1755924738/
VIPQ2_EXTDAT: checked:vvvvv:1000:512:: EXT was configured
0833名無しさん@ピンキー (ワッチョイ d332-nnWO)2026/01/29(木) 10:10:31.10ID:vouCeCWf0
>>831
全く申し訳されないよ
プロンプトが悪いんじゃない?
0834名無しさん@ピンキー (ワッチョイ af6b-qxTp)2026/01/29(木) 11:16:51.02ID:y80AVPBn0
k2.5をローカルで動かすにはどれくらいのスペックが必要なんや?
0836名無しさん@ピンキー (スップ Sdaa-Qkxx)2026/01/29(木) 12:27:45.00ID:iilnWksjd
>>831
フロントエンド何つこてる?
lm studioとkoboldcppで使った経験あるがあれで申し訳された経験はないな。おそらくシステムプロンプトに問題があるとは思うが
0837名無しさん@ピンキー (ワッチョイ 9ea9-jbA7)2026/01/29(木) 12:42:25.66ID:0vQW0f4i0
kimi k2はパラメータ数が1Tだからある程度妥協してQ4、KVキャッシュも含めたら768GBくらいはいる
劣化させたくないならQ8+KVキャッシュで1.5GBくらい、
フルならbf16+kvキャッシュで3TBくらいいるんとちゃう
レスを投稿する


ニューススポーツなんでも実況