なんJLLM部 避難所 ★4
■ このスレッドは過去ログ倉庫に格納されています
AIに色々なことをしゃべってもらうんやで >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ https://mercury.bbspink.com/test/read.cgi/onatech/1717886234 サンガツ！ >>20 >>20 LLMはテスト丸暗記の性能偽装だらけや なんだ、、そういうことか というかLLMのベンチマークという発想にそもそもの無理があるし、もはや性能詐欺にしか使われていない気がする VRAMマンやけどGGUFで動かしてるわ 多分詐欺的にSonnetとかをバックエンドにしたやつをAPIとして提供して 最近だとTanukiが結構真面目に人手評価してたけど企業もああいうのやってほしいな クラファンとかでお金集めるんだったらちゃんと公開で客観的な評価結果を提示して欲しいよね 某クラファンはノウハウとか非公開でも別に賛同する人が支援するだけだからそれ自体は良いんだけど 結局全部中身Transformerだし同じパラメータ数なら性能にそんな差がつくはずないもんな 巨大LLMなんて赤字垂れ流すだけなのに ベンチだけ重視して実性能たいしたことねえgemini geminiマジでポンコツだよな geminiは学習内容選り好みして規制厳しくするとポンコツになる良い証拠 GeminiPro1.5は出たばかりの時はそこそこ使えたんだよ いままで適当にプロンプト書いていたけど、ちゃんとマークダウン形式で書いた方がちゃんと動くと最近気づいた >>32 アラインメントで洗脳したから頭悪くなってそうな気がする >>31 シドニーは確かに面白かったなGPT4の賢さと謎の自由さでキャラが立ってた Geminiはモデル本体よりもsafety settingがあまりに思春期すぎて誤検知検閲多すぎるのが問題じゃねーかな >>43 silly tavernについてはふたばTelegramの文章生成スレにサンプルキャラや使い方色々書いてあって助かった >>45 >>47 いろんなキャラと「セックスしないと出られない部屋」ごっこができそう Telegramの文章生成スレにたどり着くまでに今日一日潰れたが、初めてTelegramさわったから新たな知見を得られて満足した一日だった TTS併用しつつVRAM24GBに乗るって条件でvecteusV1、ninja系、LightChatAssistant、magnumV2、Gleipnir、KUJIRA、Robinhood、他色々と使ってみた結果、俺の中で最優秀はBerghofの2種だったわ >>51 >>51 Berghof、知らなかったのでNSFWとERP試してみたけど結構良い感じやね 量子化したものをsillyで使ってみたけどいいね いい反応を返してくれるモデルでも、コンテキストサイズが小さいとすぐ会話忘れていくなぁ 画像を読めてエロもOKなローカルモデルってまだ無い？ >>57 https://imgur.com/a/tksToG3 会話の忘れ防止にsillyのsummarizeっていう自動要約機能を使ってみようといじってみたんだけど全然動かないわ… >>58 >>60 >>59 openaiはただのエロじゃbanしないはずだけど、ロリ判定でも食らってたのかな >>62 APIをChat Completion >>65 Text Completionsで使うContext Formattingの"Generate only one line per request"がオンになってると改行で生成終了して何も出力しない場合があったような？ "Custom Stopping Strings"の中断に引っかかってるとかもあるかも？ 自動要約の方はkoboldでも使えるやり方が分かってきた perplexityさんに調べてもらったわ 使い方 lmと大葉経由で尻を使い >>71 >>73 ERPって何かと思ったけどエロティックロールプレイなのか エロに関して何も指定してないのに耳元で囁いてるだけで勝手にイき散らかす 7Bモデルの情報たすかる！ https://files.catbox.moe/ywkbxv.jpg LLMは1年くらい浦島だったがこのスレのおかげで追いつけたわ感謝するで https://files.catbox.moe/b0vd2i.png https://mega.nz/folder/s0N1FD5I#nx39CZmBbicFZuvgaozMsQ >>82 >>0082に関して横から補足やが、複合キーは comfyUI使ったこと無いんや… >>85 赤ちゃんの質問で恐縮だけど、7B、12B、35B、70Bの数字は大きい数字ほど頭のいいモデルって認識でいいのかな？ >>87 ありがとう！ 同じモデルのなかで3-bit、4-bit、5-bitとかのバリエーションがある場合も、大きい方がいいですか？ 教えていただきありがとうございます！最後に質問で、おすすめ言語モデル一覧が見れるサイトはありますか？ このスレで先日知ったPerplexityさんに教えてもらいながら、ComfyUI導入して、>>82 御謹製ワークフローで画像出せるようになったんやが、 >>87 自己レスや >>79 あー、分かったわ、Extra OptionsのAuto Queueにチェック入れるかBatch Count増やせば複数枚出せるんやな！ モデルの説明やおすすめサイトの情報ありがとうございました！ llm-jp/llm-jp-3-172b-beta1-instruct berghof-ERP >>104 正直ローカルで動かすとなるとMistral-Nemoの12Bまでが良いな… >>104 すぐエロくなりすぎてもいけない、ガード硬すぎてもいけない >>105 もしかしてそういう時にsillyのCFGスケール機能を使えばテンションを少し抑えさせたり出来るんだろうか 画像生成だとCFG低い方がプロンプトの効きが悪くなる（ネガティブプロンプトが顕著） 前に特定の単語がどうしても文字欠けするって言ってた人いたけど、急に俺もsillyでなった qwen2.5がリリースされたね https://huggingface.co/EndouMadoka/AITuberStudio ある程度の性格は設定しないとな >>117 ■ このスレッドは過去ログ倉庫に格納されています
