なんJLLM部 避難所 ★6
■ このスレッドは過去ログ倉庫に格納されています
AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降
本スレ(避難中)
なんJLLM部 ★7
https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/
前スレ(実質本スレ)
なんJLLM部 避難所 ★5
https://mercury.bbspink.com/test/read.cgi/onatech/1735186391/ 消費電力に耐えられるつよつよな電源回りと金さえあれば動くよ 熱よりも音を心配するべき
サーバはGPU無くても電源ファンがうるさいので >>95
サーバー用ファンは常にフル回転してるからな
温度によって出力を調節とかない 倫理フィルターを持っているモデルを論破しようとしているんだけど
悪いことは悪い！しか言わずに会話のキャッチボールを拒否するからマジで話にならんな
規制があるとバカになるってのは本当だわ 論破なんて時間の無駄やで
ごめんなさい間違ってました→わかればよろしい。ではおまんこに入れるぞ！→申し訳
になるだけ intelamx使える64gbのインスタンスがawsで1.5usd/hoursかぁ DeepSeekR1(671B)が4090D(24GB)マシンで動いたとかいう記事見たらメモリが382GBの化物マシンやった… 文字どおりの倫理フィルターが存在してますと妥当な説明をしてるだけなのでは？ >>85
使えるもんなんやな、サンガツ！
サーバーやとregisteredでECCなメモリを使うって聞いてたから、PC用のメモリと互換性無いんかと思ってたわ
何にせよ382GBとか512GBとか積もうとしたらえげつない金額いきそうやね…… mmnga/DeepSeek-V3-slice-jp64-gguf
これ動いた人いる？
2台で試したけど両方駄目だった😭 >>91
電源3000w x 4って書いてある
一般家庭向けの契約じゃ無理そう VRAMで数百Gなんてとんでもない値段だからメモリなら現実的にはなってるな H100なんて富豪かレンタルGPUで稼ぐ業者しか買えないからなぁ ちょっと調べてみた
CPU：Xeon Intel Sapphire Rapids Xeon Gold 5415+ LGA4677 BX807135415 国内正規代理店品
16万
マザボ：ASUS Intel W790 搭載 (LGA 4677) EEB ワークステーション マザーボード PRO WS W790E-SAGE SE/国内正規代理店品
21万
メモリ：KSM56R46BD4-64MD [DDR5 PC5-44800 64GB ECC Registered]
512GB：6.1万×8枚=49万
※8chで使用
以上で86万
プラス ケース、電源、OS、HDD、SSD、9700XTX(VRAM24GB)で110万位かな。
5090搭載PCと同じくらいの価格。 >>109
こんなゴツいマシンを組んでモノにならなかったら心が折れそうだわ マザボの仕様見てもECCじゃなくても動きますって記述が見つからんくてちょっと怖い このクラスのマシンになってくると素直にDellかhpのワークステーション買った方がよくね？って思えてくるな。電源や冷却周りが下手な自作よりはよっぽどしっかりしてるし 5090搭載PCが不具合祭りでぶっ壊れる可能性を考えたらマジで組む人いそう コンテクスト長はGPUのVRAMに依存してて24GBでは8000弱が限界と言ってるから、どちらにせよ5090なりそれ以上なりは必要になりそう kvキャッシュはGPUに載せる必要があるということか supermicroはマザボの仕様に
registerd/unbuffered
ecc/non-ecc
の対応が書いてあるね
メモリスロット16本あるようなのは全部unbuffered non-ecc非対応やな・・・ >>115
これ1〜14まで全部ダウンロードしないといけないの？ >>125
サンガツ〜 3090だけど一番大きいq8でいいのかな？やってみる >>129
ほーん
知らなかったやこのモデル
元モデルでも100Bなら量子化でこのスレのVRAMリッチおじが試せるサイズやない？
実際の性能どんなもんやろ 前の100bはただデカいだけだったけど今回の8bは事後学習しないでこのスコアなら悪くないモデルにはなってくれそうだな RTX3060 12GBでお絵描きAIもLLMもモンハンワイルズも満喫しているワイ低みの見物 >>129
記事タイトルの1兆って100億の間違いだね
日本の企業が1兆パラってびっくりしたけど 英語用モデルを色々試してるんだが、
https://www.reddit.com/r/SillyTavernAI/comments/1irpsqn/drummers_skyfall_36b_v2_an_upscale_of_mistrals/
このSkyfall 36b v2はだいぶ良いのでは
Mistral 24bベースのSydonia 24b v2に知識を足したモデルみたいで、物語をだいぶ語れるようになってる chatbot arena今見たらchocolateってモデルがgrok3って種明かしされてた
ぶっちぎりの一位やね
grok2がossになるって言うからぶっちゃけそっちのが気になるけど
どのくらいのサイズなんだろうな AMD Ryzen Strix Halo AI Max+のユーザーレビューがYouTubeに上がり始めたね。
ガッツリゲーマーじゃなければ、これがミニPCになってくれれば、もうこれだけでええんちゃう？レベルの模様。
消費電力も低いしね。楽しみだ。 >>142
HPなんかはもう小型WS？っぽいの出すはずだからメモリ128GB版が現実的な値段（30万くらい）で出て欲しい…… strix halo、70bで8token/sくらいとされてるな
ベンチ見てもメモリ帯域がポンコツっぽい雰囲気ある ローカルllm勢はcudaを使えないならメモリたくさん載せられるだけで喜ぶのに style controlあると4oのほうが強いからどうだろな HPのminiWSがdigitsと張り合える出来なら汎用性でHP選ぶかもしれん 2000ドルで48GBってのが一番ありそうなのがアレだな deepseek-v3-slice-jp64-gguf:IQ2_XXS、動かないよ〜😭 koboldcpp、もしかして命令等は英語じゃないと命令通ってないのか？
キャラチャしたいけど英語以外で反応してるように見えない… 指示モードで普通に日本語で言うこと聞いてくれてるけどな
モデル次第なのかな >>151
モデルが日本語に対応してないんじゃねえの モデル次第かあ…
日本語モデルでも英語通りそうだし、英語で命令いれたほうがいいみたいだな >>155
人間で例えたら脳みそ1/4にカットしたうえでさらに4倍圧縮してるようなもんだからな
しゃーない どこかでLumimaid-Magnum-v4が最強って聞いてからずっと使ってるんだけど今これより頭のいい日本語対応モデルって出てる？
みんなのおすすめをお聞かせ願いたい。NSFW用途で。 >>157
midoriinko/magnum-v4-123b-jp-imatrix
日本語タグ付いてないから見つけにくいけど、これのiQ3_Mがメモリ64Gで動かせる日本語モデルの限界
日本語版のimatrix使ってるから、他のより日本語性能はいいはず（と思う）
ちなみにドエロイｗ なんJRVC部が消えてしまったんだが音声系はみんなどこにいったのです？ grok.comにもgrok3が来たから試そうと思ったら、bad gatewayが出るな
まだ移行途中なのかね Sakana AIがAI CUDA Engineerを発表してるな Gemini2.0 flash thinkingすごいわ
小説の設定なんかについてやり取りしてた10万字ぐらいあるChatGPTのカオス気味の履歴を
VSCODEのClineを介してぶん投げたら2〜3分で各ディレクトリに.md作って整理整頓してくれた
DeepSeel R1はコンテキスト長短いしSonnetはたけぇし
ドキュメント整理みたいなタスクはGeminiおすすめや なんか知らんが無料で使えるしな sakanaAIは昔から一貫して大規模モデルに興味が無いよな
Transformerを産み出したくせに AIがAIのコード書き始めたんか、シンギュラリティ第一歩やね
CUDA以外にも書き換えられるようになればNvidia以外のグラボも使いやすくなりそうでええね sakanaAIは秋葉殿下がいらっしゃるから推したいんだよなぁ
あの人はワイの大学の専攻的に雲の上の憧れの人だった
なんかdeeplearning系に華麗に転向しているが
しかしあそこってtoCなこと一切してないからワイはなんもできんのよな unsloth/DeepSeek-V3-GGUF:Q2_K_XS.gguf
頑張ったらエラー出さずに動きはするね、動きは Ollama経由のSillyTavernでdeepseek-r1-distill-qwen2.5-bakeneko-32b-gguf:IQ3_XXSを動かして触って見たけど良いね
Mistral系にありがちな直結気味もなく12Bモデルより間違いなく賢さを感じる deepseek r1 bakenekoは今までのオープンモデルのなかで日本語性能が一番優れていると思う 画像食えるモデルとソフトの組み合わせって今何がいいんだろう。画像生成のプロンプト食わせたいだけだから14bもあればじゅうぶんなんだが。 runpod、クレカ支払いを蹴られるな
マスターカードなのに何故... 米国カードのみなのか
回避の仕方は色々あるけど、Runpodの強みはコスト抑えられることで=代替可能だから拘っても報われなさそう
他を探してみます runpodは自動でON/OFFできる仕組みを作っておかないと必ずやらかす…… lm studioのモデルオプションの横にある👍アイコンが付く条件てどうなってんの？
最適なやつが選ばれるようになってるのかしら phi-4の設定修正版を使ってみたら日本語能力が改善されて良くなってたわ
中国語が混じってくることもなくなったし、サイズの割には素の賢さが高くてなかなか好感触や
小説とか表現力は今ひとつ弱いんやけど、日本語FTしたらなかなかいいモデルになりそうや グラボ高すぎて10GBで当分頑張ることになりそうだ
16GBあればもっと色々出来るんだろうなあ bakenekoのQ8を触ってみたんだけど、これすごいね
個人的には地の文の表現がmagnum超えてると思う bakenekoQ4でやってみた
かなりこちらの意図を読んでくるね
だけどSTでチャットする時〈think〉部分は消したいんだけど良い方法ないかな？ >>164の論文が嘘だったとかで大炎上してる模様
やはりSakanaは釣りだった!?Sakana.aiが発表した論文が海外のAI研究者コミュニティで炎上
https://wirelesswire.jp/2025/02/88134/ >>187
正規表現でthink関連は格納できるよ
redditでもgithubでも作例は載ってるから探してみ stagingで実装されてたthink対応機能がstableにも導入されたっぽいから、アプデするだけで<think></think>は勝手に畳むようになるかも ■ このスレッドは過去ログ倉庫に格納されています
