なんJLLM部 避難所 ★9
レス数が950を超えています。1000を超えると書き込みができなくなります。
0001名無しさん@ピンキー 転載ダメ (ワッチョイ fec0-xVEZ)2025/08/23(土) 13:52:18.71ID:5lw7ZcNF0
!extend:checked:vvvvv:1000:512
!extend:checked:vvvvv:1000:512

AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC(できれば+3060 12GB以上)でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降

本スレ(避難中)
なんJLLM部 ★7
https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/
前スレ(実質本スレ)
なんJLLM部 避難所 ★8
https://mercury.bbspink.com/test/read.cgi/onatech/1746883112/
VIPQ2_EXTDAT: checked:vvvvv:1000:512:: EXT was configured
0962名無しさん@ピンキー (ワッチョイ 836a-qtAv)2025/11/17(月) 20:04:12.38ID:T96Iz2QW0
nictあたりでコーパス作りゃいいのよ
GENIACなんかやってもどうせしょぼいパラメータ数のしかできないんだから
0963名無しさん@ピンキー (ワッチョイ 7eda-0fx7)2025/11/17(月) 20:16:53.96ID:DFXOWySS0
そういうもんなんか?docker でllama うごかしてオープンチャットだっけ、でllm構築したくらいの経験しかないからよくわからん…いろいろ調べてみるか。
0964名無しさん@ピンキー (ワッチョイ 326c-NM5O)2025/11/17(月) 21:46:24.71ID:OFt2wigP0
>>957
RoCEに対応できるSwitchが高いんだよなあ
0965名無しさん@ピンキー (ワッチョイ 7e31-0fx7)2025/11/17(月) 22:20:04.83ID:DFXOWySS0
>>964
そうなんか。まぁ2pcなら直結でいけるっぽいし、まずそれでやろかなと。
0966名無しさん@ピンキー (ワッチョイ 8f32-UTns)2025/11/17(月) 22:25:56.20ID:jMFNoshE0
>>960
軽くソースを読んだけど、オリジナルのモデルデータがVRAMに乗らないと高速処理できないっぽい
ハイスペックの有志が検閲除去してくれるのを期待するしかなさそう
レスを投稿する

レス数が950を超えています。1000を超えると書き込みができなくなります。

ニューススポーツなんでも実況