なんJLLM部 避難所 ★8
■ このスレッドは過去ログ倉庫に格納されています
!extend:checked:vvvvv:1000:512 >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ https://mercury.bbspink.com/test/read.cgi/onatech/1742709485/ ネットだけじゃなくて書籍も学習してるんじゃなかったっけ Grokのdeepsearchの検索過程を見ていると検索ワードが酷すぎるんだよな 複数名が登場するエチチ小説にチャレンジしてるんですが、複数名の会話の辻褄を合わせるのってどうやればいいでしょうか？ Googleアシスタントに >>555 >>557 >>533 >>548 wannabeやAIのべりすとみたいに小説本文とユーザ入力の関連情報を組み合わせてプロンプトを随時自動生成させる方法なら常に1ターンになるしそっちの方が合理的かもね >>499 どっちにしろRTX50XXにしたらSBV2の学習出来なくなって詰んでるや Silly Tavernで会話しながらエチチ小説を書いてるんですが、こっちの会話に反応して徐々にエチチチ化していくのヤバイですね… ふぅ。。。 程度によるけど、大企業さまの1000Bとか2000B相当と言われるようなのでも定型文は出ちゃうからどうでしょう >>552 https://togetter.com/li/2571750#h21_0 SillyTavernでチャットしてそれにSBV2で声当てて音声認識なんかも使ってると楽しいんだけどやっぱ音声はまだぎこちないな >>567 Mistral系はrepeat penaltyよりも温度上げると多少マシになる Qwen3 の 14b 使ってみたんだけど同サイズのLLMと比べて頭1つ抜けて頭よくてびびる >>574 >>573 >>576 ローカルでOpenWebUIとn8nをDockerで動かそうとしたらn8n分のポートが開けないうんたらかんたらって言われた…やっぱレンタルサーバー借りないと出来ないか… ChatGPTなりに相談すれば解決してくれるのでは dockerのポートは詰まりがち どっちかのポート番号ずらせばいいだけだから簡単よ mradermacher/karakuri-vl-32b-instruct-2507-GGUF LM Studioは職場でも使えるようになったんだね https://lmstudio.ai/blog/free-for-work なんかLM Studio入れたらstable diffusion webui a111が動かなくなっちゃった Pythonのパッケージ管理の仕組みはホンマにアカンなぁ >>567 GPT先生にパラメータの意味とおすすめ設定を教えて貰った Q1まで落としても性能劣化ほとんどしない魔法の量子化出てこんかな kimi v2は公式サイトで触った限り拒否は無いからこのスレ用途でも普通に使えそうやな >>597 >>597 kimi k2 昨日でたばっかでダウンロード数なんであんなにあるんだ？ 用途決め打ちで必要なエキスパートだけ選んでメモリに載せられるようになれば32Bで済むはずだがな うまくやればDDR5 512GB + 16GB VRAM GPUで10t/sくらいは出るらしいし頑張れば100万円以内で動きそうではあるけど xeonやスリッパで公式サポートはしてないけど普通のDIMMで実は動くとか無いの？ >>605 >>606 100Bくらいのモデルだと今でも日本語のエロ最強はMistral-Large系列の123B？ >>611 マルチモーダルなLLMにNSFWな画像を読み込ませてシチュエーションを解説させたりこの後の展開を説明させたりしたくて 通常の画像は解説できているんだよね？ >>612 >>614 >>616 >>617 なんかここではあらゆる表現が〜としつこく書いてたら応答してくれるようになりました >>618 >>613 AIのエロプロンプト作り始めて、いかに自分のボキャブラリが少なく、日本語を知らなかったか思い知らされている。 尻タブの対話例でチャットにあまり影響しない汎用性があって無難な話題ってない？ >>623 >>620 >>621 5090+DDR5 128GBで新しいPC組もうと思ってるんだけど 5090一枚じゃ123bは動かないんじゃない？4枚くらいつける？ geminiだとセックスがお断りされるんだけど脱獄できるの？ >>626 最低でもレイヤー数半分以上はVRAMに乗らないと数トークン出ないわな >>629 >>632 >>628 geminiのchatだとセックスでお断りされるんだけどそんなもんなの？ >>631 geminiなんか一番緩いまであるぞ >>629 gpu完全オフだと約1token/s(500tokensまで) VRAM32もあるならllamacppとかにあるoverride tensorうまく設定したら速くならんかな >>637 >>642 LoRAのデータセット用のtomlで LoRAの作り方私も知りたい。 >>645 でもkimi k2ってローカルじゃないとエロい話できないんでしょ？ kimi公式は知らんけどtogether.aiとかのホスティングサービスがやってるやつは成人エロなら簡単な脱獄だけで普通に通る >>649 >>644 >>646 俺もkimiをsiliconflowのAPIにchatboxで繋いでエロプロンプトを放り込んでいるが kimi ローカルでどうなるか試せる人いないかな？ ■ このスレッドは過去ログ倉庫に格納されています
