なんJLLM部 避難所 ★4
■ このスレッドは過去ログ倉庫に格納されています
AIに色々なことをしゃべってもらうんやで >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ https://mercury.bbspink.com/test/read.cgi/onatech/1717886234 >>82 >>0082に関して横から補足やが、複合キーは comfyUI使ったこと無いんや… >>85 赤ちゃんの質問で恐縮だけど、7B、12B、35B、70Bの数字は大きい数字ほど頭のいいモデルって認識でいいのかな？ >>87 ありがとう！ 同じモデルのなかで3-bit、4-bit、5-bitとかのバリエーションがある場合も、大きい方がいいですか？ 教えていただきありがとうございます！最後に質問で、おすすめ言語モデル一覧が見れるサイトはありますか？ このスレで先日知ったPerplexityさんに教えてもらいながら、ComfyUI導入して、>>82 御謹製ワークフローで画像出せるようになったんやが、 >>87 自己レスや >>79 あー、分かったわ、Extra OptionsのAuto Queueにチェック入れるかBatch Count増やせば複数枚出せるんやな！ モデルの説明やおすすめサイトの情報ありがとうございました！ llm-jp/llm-jp-3-172b-beta1-instruct berghof-ERP >>104 正直ローカルで動かすとなるとMistral-Nemoの12Bまでが良いな… >>104 すぐエロくなりすぎてもいけない、ガード硬すぎてもいけない >>105 もしかしてそういう時にsillyのCFGスケール機能を使えばテンションを少し抑えさせたり出来るんだろうか 画像生成だとCFG低い方がプロンプトの効きが悪くなる（ネガティブプロンプトが顕著） 前に特定の単語がどうしても文字欠けするって言ってた人いたけど、急に俺もsillyでなった qwen2.5がリリースされたね https://huggingface.co/EndouMadoka/AITuberStudio ある程度の性格は設定しないとな >>117 WariHimaって人が改良してるバージョンのstyle bert VITS2が凄そう https://github.com/litagin02/Style-Bert-VITS2/pull/161 https://github.com/WariHima/Style-Bert-VITS2/tree/dev >>121 qwen2.5 72b試したけど今までとはなんか格が違うぞ Qwen2.5は32Bが日本語性能も十分高くて使いやすいサイズで個人的に使うにはバランスが良かった qwen2.5-72B試してみたが自分の経験では大したことなかった 大して試せてないけどQwen2.5の7BQ6でも日本語上手で大きな破綻もなく好印象 Qwen2.5 14Bなら量子化すればVRAM12GBのRTX3060で動くかな？ Qwen2は日本語めっちゃ破綻した記憶しかないが2.5はそんな良いのか？ けど未成年近親エッチは寸前で断られたわ 更新しても もしかして、qwen 2.5 koboldまだ対応してない？ すまん、動いたわ M1のMacで動かしたいんだけどおすすめのソフトってある？ QWEN2.5 72B >>136 qwen2.5 14b試してるけどロールプレイ用途では微妙だな gpt4-o1なんか凄いらしいけど >>139 あれは検閲も兼ねてるからエロ利用者にとっては最悪のシステムや o1は1回目のアウトプットと入力プロンプトを見返して必要があれば結果とプロンプトを参考にさらにもう一回推論する、 o1の場合は解釈と推論をするコンポーネントがかなり違う性質を持つみたいな話もあるので、どうかな >>0137 >>145 silly tavern拡張機能のsummraizeとobjectiveがちゃんと動く条件がやっと分かったので報告 ここってColabとかpaperspaceみたいなクラウドGPU使って文章生成してる人あんまり多くない感じなのかな >>150 >>146 >>152 qwen2.5のuncensored今のところ微妙だ Qwen-2.5-32b-AGIっていう規制をとってしまったモデルがあるらしい >>159 https://i.imgur.com/zoBVTOV.jpeg https://huggingface.co/AiCloser/Qwen2.5-32B-AGI >>160 gensparkよく使ってるけどこんな間違いするのか >>161 データセット見るに申し訳回避と英語+中国語の有害要素チューニングがされてる AXCXEPT/EZO-Qwen2.5-72B-Instruct ん？ AutoCoTRAGって、どうやって機能すんのかな？ ニキらは72Bモデルローカルで使っとるんか？VRAMどんだけ積んでんのよ VRAMなにそれ？なワイはメモリ64GでQ5k_mぶん回してるわｗ chatbotarenaで投票しまくってるけどo1全然出てこねぇな メインメモリで運用してるのすげえな。自分じゃ遅すぎて耐えられないわ さすがに最上位スレッドリッパーとかならキャッシュとコアの暴力でわりかし早いのは言われとるな 上位スリッパならメモリ8chで460GB/s出るし 教えてもらったところにあったのから飛んできた o1はチャット用じゃないから。。。 4oで使ってたプロンプトと同じので出力できるのってないんだな SF考証とかやらせるとo1は普通にクソ使えるよ keitokei1994/EZO-Qwen2.5-32B-Instruct-GGUF >>181 ■ このスレッドは過去ログ倉庫に格納されています
