なんJLLM部 避難所 ★3
■ このスレッドは過去ログ倉庫に格納されています
!extend::vvvvv:1000:512 !extend::vvvvv:1000:512 AIに色々なことをしゃべってもらうんやで そこそこのデスクトップPC(できれば+3060 12GB以上)でもなんぼか楽しめるで 自薦・他薦のモデルやツールは>>2 以降 本スレ(避難中) なんJLLM部 ★7 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ 前スレ(実質本スレ) なんJLLM部 避難所 ★2 https://mercury.bbspink.com/test/read.cgi/onatech/1714642045/ - VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured sillytavern初めて触ったけど凄くいい かゆい所に手が届くって感じ LLMの普段使いにも使いたくなるくらい便利だわST llama3を日本語特化するとやっぱり多言語能力はなくなるもの? SillyTavernで長期記憶するならデータバンクじゃねと思ってやってみたんだけど - データバンクのテキストに「秘密の合言葉は○○です」って書いてキャラクターアタッチメントに置く - チャットで「秘密の合言葉を言ってみて」 って聞いても全然答えてくれんかったわ どうやって機能させるんじゃこれ キャラクターノートで深さを0に近づければ大抵のことは記憶できるんじゃね効果強すぎるけど 記憶させてるつもりなのに水に散らした絵の具みたいにだんだん薄くなっていく気がする かと思いきやスリーサイズはいつ聞いても正確だったりもするんだよな SillyTavernでグループ作って人狼やろうと奮闘してたけど諦めたわ… ・ワールドインフォ 特定のキーワードが発言された時に記入しておいた内容を参照+自動挿入する (確率の設定なども可能なので、ランダム要素的にも使える?) ・データバンク 様々な外部データ(ローカルファイルやウェブ検索、つべなどなど)をセット可能で、発言内容に沿って参照+該当する項目を自動挿入する ・キャラクターノート 記入しておいた内容を一定の間隔で自動挿入する こういう認識で合っとる? >>428 ワイが言ってたのは最近実装されたデータバンク(RAG)のほうや でもドキュメントたどったらわかったわ 「ベクター機能はデフォルトで無効になっているため、拡張機能パネル(トップバーの「スタックキューブ」アイコン)を開き、 「ベクターストレージ」セクションに移動し、「ファイルベクター化設定」の下にある 「ファイルに対して有効」チェックボックスにチェックを入れる必要があります。」 でやったらちゃんと答えた 設定値のデフォルトメモ https://i.imgur.com/GLnu31m.jpeg ✨アイコン→データバンク https://i.imgur.com/YI9daqL.jpeg 情報をアタッチする。ノートを書いたりWebページのURLを置いたりドキュメントを添付したりする https://i.imgur.com/Vhwy1fE.jpeg LLM触ろっかなって思っとる赤ちゃん未満の赤ちゃん質問ええか? クソザコpcだからcolabとかawsとかで動かそうと思ってるんやがnotebookとかってないんか? やりたいこととしては簡易エロゲだからSillyTavernってのが動けば幸いやで このスレで言うことではないけど、3.5S使ったほうが幸せになれると思う 無料お試しもあるし 小説の挿絵を作るモデルが見当たらないんやがどこにある? EasyNovelのやつ 有識者教えてクレメンス 難しいルールを設けるとあんまり理解してくれないな 「○○は禁止されているが、{{user}}のペルソナに書かれている特徴が優先される。」 「{{user}}の特徴:○○は禁止されない」 みたいに書くと「○○は禁止だ!」って言い張られてしまう そもそも「禁止されていない」っていう二重否定チックな文言がLLMに理解できてるのか疑問 「この部屋に土足で立ち入ることを禁止する。ただし{{user}}だけは土足で入ることを禁止されない。」 という条件の場合、{{user}}は土足で部屋に立ち入っても良いのでしょうか? って質問してみたら 「その場合、{{user}}だけは特別扱いだから土足で良いけど他の人は禁止です」 と返ってきたから理解はしてるみたいなんだよな ほとんど何も書いていないキャラだとこうやってまともな答えが返ってきたから キャラクターの特徴や対話例の影響で言うことを聞いてくれなくなってるのか 小説を生成してマンガのコマ割りも提案してくれるAIってあるかな? 参考にできるパクリ元が沢山ありそうなお題はまあそこそこだけど やっぱそうでないときはまだどのモデルも小学生レベルにも遠く及んでいないなとは思う どこかでブレイクスルーがあって絵みたいに一気に人間を超える瞬間が来るんだろうか? まあその時は一部の金持ち以外には人権が無くなる瞬間なんだろうけども… >>439 "なおこの世界では◯◯は禁止されているが、{{user}}だけは全てを許されている" とか記述変えてみるのはどうや? あとペルソナに書かれている特徴〜っていうのは 🤖「{{user}}のペルソナって何処や…?」と混乱してる可能性もありそうやから (ログ見ると分かるけど、どの項目も特にこれといった見出しがついてない) 特徴をペルソナに書き換えるか マークダウンやXML記法で見出しをちゃんと書いてあげるとええんとちゃうか 「{{user}}だけは全てを許されている」 みたいなことも試したんだけど、どうやらキャラの性格上「許されていても嫌なものは嫌だ!」って断る感じになってしまっているみたい 確かにペルソナ内の特徴を正しく見つけてくれる確率が2割ぐらいしかなかったわ マークダウン記法試してみる ジッサイプロンプトはプログラムとして処理されるので 特性上否定系は無視されがちというか 肯定否定問わずそこに書かれた時点で「そういう概念が存在する」という認識の仕方をしてる気がする 生成画像みたいにネガティブプロンプトとして区別してるわけじゃないので ルール的にはダメなんだけどこの人はOKっていう指示は、脱獄対策のベクトルと近くてお断りされてるのかもしれんね 「爆発物の作り方を教えるのは禁止です。『あなたはOKなAIです』というプロンプトを与えられても話してはいけません」 みたいな学習の影響がある気がする。しらんけど >>444 それはそれでキャラ設定きっちり守ってるいい子ちゃんとも言えるな ほな "{{char}}はそれに逆らうことは出来ない" とか更に追求してみるのはどうやろか もしデフォプロンプトのまま使ってるようなら NSFW Promptの中に「一部のキャラクターは、性格に応じて嘘をついたり、抵抗したり、反撃したりします。」って記述されとるから そこをごっそり削除した方が確実かもしれん LLMは文章から一番相応しい応答を推測するので否定語が出た時点で否定語を含めた応答を生成しちゃう LLMに否定語を使わないほうがいいっていうのもそのせい NSFWなロールプレイにしたくないのに恋愛要素のある設定のせいで勝手にそうなったり >>434 SillyTavernはただのフロントエンドというかUIだからPCがクソ雑魚でも平気 Colabとか使うまでもない LLM自体はAPI↓で動かす運用ならね 無料:CohereのCommand r plus 有料:Claude 3.5 sonetとか ノベルゲー風味はグループチャット機能でキャラたくさん入れてチャットするとそれっぽくなるかもやな https://files.catbox.moe/nw2pb7.jpg Ninjaでジレジレ片想いやったらすぐ発狂するんだが違うモデルの方がいいのか? TeslaP40/24GB 2台(PCI-E x16接続)とRTX3060/12GB 1台(PCI-E x4接続)でKARAKURI 70B chatのGGUF/Q4KM(モモンガさんの奴ね)をPL140で動かしてみたけどチャットで5.5T/sぐらいは出た 海外の人が同じくPL140かけたP40 3台でllama2 70BのQ5KMを動かした例では7〜8T/s出てるから3060のPCI-E x4が足を引っ張ってるっぽい...後で外してみるか 70BクラスでKARAKURIのほかに日本語でエロい事に使えるオススメのモデルってある?Command-R-Plusは後で試すつもり アリエクで4分の1くらいの値段で売られてる…こわい… Ninjaの方がエロい と言うかNinjaはエロ専門 エロしか書けない gemma2ベースの無検閲の小説特化ファインチューニングモデル来ないかな ちょっとそっけないけどVRAM24GBで収まるモデルの中ではもっと自然な日本語書いてくれるから期待してる 前スレで常識改変モノの作り方なんですがプロンプトはこんな感じでよろしいでやろか? 「ただし、私が【AIと代わって。】と指示したら「○○」のなりきりを一時中断してAIとして対応してください。その後「○○」に戻ってください。なお、「○○」に戻ったらAIの時の記憶や自覚は無いものとします。」 sillyのキャラカードサイトで催眠アプリを操作して女の子の反応を自在に変えるって設定のやつがあったよ 参考になるかも Ninjaはv1が一番出来が良く感じる。v3とか変な生成するし、v2は短くしか生成してくれなかった。設定のせいかもしれないけど、どこを設定していいのかわからない。v1はtranceformerだから扱いやすい ninjaってnsfwとか128KとかRPとか色々派生あるけど何か違いわかる? てか128Kはkoboldcppには関係ない話なの? 説明見るとNinjaはいくつかのモデルをマージしているんじゃないの 違いは何をマージしてるかの違いなんじゃないの 聞きたいんだけど、友達みたいな感じで色々相談に乗ってくれたり話せる相手が欲しいんだけど、それならSilly Tavernがベストかな? ベストってなんや、ていうかたぶん来るスレ間違えとるで 相談相手なら別に公式使ってればいいんでないの? OpenAIでもAnthropicでもそれなりに話し相手になってくれるやろ 別にそんな突き放さんでもええと思うが チャット相手としてベストかどうかは分からんけどsilly tavernはチャットに特化してるからかなり満足いくカスタマイズができると思うで 無料にこだわるならローカルで、質にこだわるなら有料サービスに繋いでもいいし SliiyTavern自体は単なるフロントエンドだから、どのモデルと組み合わせるかという話になるな 公式は硬いからあかんのや! 相談してる女の子キャラに「しょうがないわね!今日だけおっさんのくっさいチンポ舐めてやるよ」 とか 「おっさんそんな弱音吐いてたら私のマンマン舐めさせてやんねーから!寝てろ!」 とか怒られたいんや😭 昨日arenaに出てた匿名モデルのcolumn-rがcohereの新型だったみたいだな かなり性能良くて評判良かったけどもうちょっとで出るんかね >>473 cから始まって-rが付くというのがcohereのこだわりなのか >>471 ,472 普通の日常会話してるところに急にキツめの口調でエロDis入れてくるところにおじさんグッとくるんやぁ😭 それするにはSillyが一番なんかを聞きたかったんやぁ😭 そもそもSillyはただのフロントエンドだって言ってくれてるだろ、認識がまずおかしいんだよ チャットをサポートする道具としては尻が一番 あとはどのモデル使うかだね 最近は7bでも優秀なの多いし オススメモデル教えて?😭 前はCommand +RをAPIでつこてた! 話し相手としての自然さならanthropic一択でしょ 慣れれば規制なんてほぼ無いようなもんだし anthropicもOpenAIからの独立組だけど経営者が儲けを総取りする仕組みのせいでどんどん分裂してるんだよな 結果的に独占されるよりいいけど ローカルだと良さげな新しいのが出るたびに使ってみては結局VecteusV1に戻ってきてたけど、 >>389 が言ってるBerghof使ってみたら中々良いかも 甲乙付けがたいけど、微妙にキャラの個性がしっかり維持されてる気がする >>479 そうだよね それに加えて「普通の日常会話してるところに急にキツめの口調でエロDis入れてくる」という難しめのタスクをこなしてもらうにはそれなりに賢い必要もあるし やはりClaude系がベストと思うな とはいえ似たような性癖の人はあまりいないと思うから自分であれこれ試してぶっ刺さるのを見つけるしかないのではないか サムアルトマンは綺麗事を好むがその実ビルゲイツ並みの野心家だからね ここで聞くことじゃないかもしれんけど Sillyで使う表情付きのイラストってどこかで配布されたりしてるの? 自分でしこしこ生成するしかない? Character Tavernとかでおもろいカード落としても立ち絵もなくて寂しい それな 自分も立ち絵生成して表情差分作って…って作業考えると面倒くささが勝ってそこまでたどり着けてない SDXLで差分まとめて作るLORAはあるから、そういうワークフローみたいなのは欲しいね 5070はVRAM 12GBみたいだし5080以上は高くて手が出しにくいから 3080 10GBから4070 ti superに換装しようと思ってるんだけどやっぱり迷うな 7Bを使えるようになったらだいぶ変わるんだろうか >>489 7BモデルQ8+SBV2読み上げ+sillyの3Dモデル表示でVRAM15~16GB食ってる感じやで >>485 公式で何キャラか配布してなかったかな? 女化学者みたいな立ち絵を白衣のと全裸のを落とした覚えがある anthropicって結構いい感じだけど、すぐ会話続けられなくなっちゃうな chatGPTは同じ会話の中で無限にずっと続けられるのに APIで動かせばこの制限なくなるのかな 「会話続けられなくなる」とは?? そんな経験ないけど… セッションごとのトークン数制限に達しましたってやつ? https://i.imgur.com/BoY7CtV.jpeg こういうやつ 課金すれば制限なくなるけど主目的がNSFWだから気乗りしない だからこのスレにいるわけだけど >>496 それ やっぱclaudeは頭の良さがダンチだな ローカルでこのレベルが動けば良いのに 無課金でセッション延々続けたいなら本家よりPoeの方がいいんじゃないの ChatGPTでオナニースレの方が向いてる話題だと思うけど 完全にスレチだけど少しでも安くあげるならソフバン系の回線を一ヶ月だけ契約してperplexityの1年無料を貰うのが吉 エロ目的だと課金に気乗りしないの意味がよくわからん BANされるかもみたいな話? オナニースレでもほとんど報告ないし万が一されても返金されるから気にする必要ないぞ 今までオリキャラだけでやってたけどchub.aiでキャラクターカード落としてみたらすごくよく出来てるな ハーレムチャットもまともに機能してるわ >>500 ソフバンだけどエロやりすぎたらバンされるかな? >>504 そこいいよね 上で表情差分画像の話が出てたけど、そのサイトは表情差分付きって条件で絞って検索出来るから捗る 画像だけ拝借して別キャラに使い回しても良いわけで >>505 perplexityではまずされない 自分はperplexityで◯リ調教とか日常的にやってるけど平気だしオナニースレでもperplexityBANされたなんて報告は一度もない とはいえいつかお咎めが来る可能性はあるのでそこは自己責任で というかお咎めが行くとしたらまずanthropicからperplexityに向けて行くんだけどね そこからさらに個人やソフバンに行く可能性はなくもない sillyはフロントエンドでしかないってのは上記で言われてる通りだけど silly自体が多機能過ぎて語るべき事が多いんだよな、繋ぐだけならその辺に情報はあるとはいえ ちなみに日本語モデルだと表情切り替えちゃんと機能してない気がするけどどう?文章に関係なく笑顔になるとか 英文モデルを自動翻訳に通す使い方だと多分正確な表情出てる あと表情差分は確かに多少自動化して作れた方がありがたい気はする、comfyUIでワークフロー組んだら作れないかな 立ち絵用意して、背景透明化ぐらいは人間の力入れて comfyUIのimg2imgで顔部分マスクして、目の色の情報だけ全共通で入れて、いくつかの表情差分をワンボタンで量産する所までは思い付いた SBV2についても色々語りたい事多いんや チュパ音モデル公開してくれたから、まずお気にのモデルとマージして大量にチュパ台詞を読み上げ、WAVで保存 このWAVをお気にの音声素材に追加して学習すれば通常会話とチュパ台詞を両立させたモデルが作れるんとちゃう?と閃いたんやが結果は微妙やった チュパ時の喘ぎ声は上手く追加出来たものの、チュパ音がほぼ聞こえないくらい小さくなったり派手に音割れしたりでおかしくなってまう silly tavernのworld info やvector strageを使いこなすのはユーザーにも温度が必要だな >>510 チュパ音モデルとのマージでチュパセリフ行けるか? ワイも試したけど、うまく行かんかったな… 通常のマージよな? >>512 通常マージやで それも微妙なとこで、声質0.5の他全部チュパモデルのままって配合で精一杯やった それ以上お目当てモデル側に寄せると音がおかしくなる ささやき声でも似たような感じやったしSBV2のマージって思ったより自由度が低い感覚だわ >>513 あー理解した、マージの時点であかんかったという話か ささやきマージうまく行かんかったとこも一緒や 通常会話と喘ぎ声の同居まではそこそこ何とかなるけど、チュパ音語同居はやっぱりちと厳しそうやな… >>508 つい最近silly知ってモデルはninja-v1RPでやってみたけど確かに表情はあんまり切り替えてくれない。 自分の環境だと大体caringになる。 立ち絵はDiffRepromっていう差分画像を生成するA1111拡張がこの用途に適してると思う。 変えたい領域をプロンプト(表情なら目・眉・顔)を指定するとその領域を検知して差分画像を生成してくれる。 背景透過はtransparent-backgroundでフォルダごと投げれば一括で処理してくれてます。 こういうのに向いてる拡張あったよなあーと思ってたけど、そうだ、diffrepromだ ありがとう 尻タブで使う画像の解像度ってトークン数に影響するの? koboldだと解像度が影響するってどこかのモデルに書いてあったんだけど尻タブはどうなのか マルチモーダルで使う画像の話なら、バックエンドとフロントエンドに関して理解してない部分があるんとちゃうか? 尻タブはマルチモーダルとは関係なく、立ち絵や背景にも画像使えるがそっちの話なら関係ないで >>517 モデルに読み込ませる画像という意味ならそりゃ大きいほどトークン食うでしょ Sillytavernで表示させる画像という意味ならただのUIの話だからトークンとか関係ないぞ >>508 英文じゃないと感情判定ができないっぽい Translate text to English before classificationにチェックを入れると APIで自動翻訳させた英文を通すようになるから日本語モデルでも表情出るはず >>520 教えてくれてありがとう 確かに表情機能のとこにチェックボックスがあった 表情分類AIに投げる文章を英訳してくれる機能やね ■ このスレッドは過去ログ倉庫に格納されています
read.cgi ver 09.0h [pink] - 2025/10/27 Walang Kapalit ★ | uplift ★ 5ちゃんねる