0001名無しさん@ピンキー 転載ダメ (ワッチョイ e249-iArR)2023/12/17(日) 21:48:59.66ID:???0 !extend::vvvvv:1000:512 !extend::vvvvv:1000:512 AIに色々なことをしゃべってもらうんやで そこそこのデスクトップPC(できれば+3060 12GB以上)でもなんぼか楽しめるで 自薦・他薦のモデルやツールは>>2以降 本スレ なんJLLM部 ★6 https://fate.5ch.net/test/read.cgi/liveuranus/1701542705/ VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
0985名無しさん@ピンキー (ワッチョイ 83be-7iwU)2024/05/02(木) 18:36:27.41ID:???0 >>>974 なるほどな、whisperはいつも同じ間違いするから辞書作っておくのは有効そうだな
0986名無しさん@ピンキー (ワッチョイ cf13-6o3J)2024/05/02(木) 18:42:38.96ID:???0 >>980 読み上げメニューのその他自動読み上げを有効にしたら読み上げるやろか? デフォルトでその他をオフにしたんは失敗やったかもしらんな 手抜き実装しとるんでアプデでは治らんのやが新規インストール民がおんなじ目に合わんように今デフォルト変更しといたで あとEasyNovelAssistantにファイル監視機能いれといた お好みエディタをリアルタイムに使えるのもローカルLLMの利点やね https://raw.githubusercontent.com/wiki/Zuntan03/EasyNovelAssistant/img/ChangeLog/file_watch.png 一応やがNinjaの使い方や 先に自動起動のサーバーを落としてから起動してな https://raw.githubusercontent.com/wiki/Zuntan03/EasyNovelAssistant/img/ChangeLog/Ninja.png >>984 サンガツ!
0987名無しさん@ピンキー (ワッチョイ 93a7-MiRA)2024/05/02(木) 19:47:12.25ID:???0 >>986 その他にチェック入れても地の文読んでくれませぬ… 名前無しの「」はその他の声で読んでくれました 「」が付いてない文だと読んでくれないみたいです
0988名無しさん@ピンキー (ワッチョイ ffa3-muh7)2024/05/02(木) 21:03:30.85ID:???0 >>979 時々画面にノイズが乗る3060が2万円代前半ぐらいであるね ゲームやらないならわんちゃん
0993名無しさん@ピンキー (ワッチョイ 83be-7iwU)2024/05/02(木) 22:06:38.56ID:???0 Ninjaは創作物から学習した比重高いんかな?プロンプト工夫してチャットさせてるけど 現実的な設定よりRPG世界で女の子と冒険するみたいな設定のほうが自然な流れで会話してくれる
0994名無しさん@ピンキー (ワッチョイ 73d4-2TDZ)2024/05/02(木) 22:54:42.00ID:???0 これ軽いから使ってる soramikadukiStarling-RP-ja-westlake-chatvector
0995名無しさん@ピンキー (ワッチョイ cf13-6o3J)2024/05/02(木) 23:27:28.80ID:???0 >>992 こちらこそ不具合報告ホンマに助かっとるんでサンガツや >>934 VecteusとNinjaのポエムやで - Vecteus Q4_Kのコスパが凄まじいのでIQ4_XS版も触ってみたい - Vecteusのコンテキスト広げた版にも期待 - Ninjaも128Kでない版を4Kコンテキストで動かしていると良好 - 128K版ではコンテキスト16Kあたりから品質に悪影響があるような気がする?(LCA 32K感覚比) - とりあえず128K版を8K運用 - NinjaにInstruction formatを適用すると申し訳率が上がる? - Ninjaの量子化がQ_8_0までしか無い - IQ4_XS版を触ってみたい https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9#kl-divergence-statistics-for-mistral-7b ↑は確かLCAニキが紹介してくれたやつやが 数値よりもこのスレで何度もIQ4_XSと他の量子化を比較してて「なんかコスパええやん」な印象や
0996名無しさん@ピンキー (ワッチョイ cf13-6o3J)2024/05/02(木) 23:43:05.97ID:???0 と思ったら出とった https://twitter.com/WMjjRpISUEt2QZZ/status/1785730059963367889 https://huggingface.co/mmnga/Vecteus-v1-gguf https://twitter.com/WMjjRpISUEt2QZZ/status/1785729813594116236 https://huggingface.co/mmnga/Ninja-v1-NSFW-128k-gguf https://huggingface.co/mmnga/Ninja-v1-128k-gguf
0998名無しさん@ピンキー (ワッチョイ 73f4-5fNx)2024/05/03(金) 06:52:05.42ID:???0 mmng氏の量子化モデルってK量子化にもiMatrixやってるのかな? K量子化は見た目で分からんからなぁ
0999名無しさん@ピンキー (ワッチョイ cf13-6o3J)2024/05/03(金) 07:48:10.92ID:???0 >>936 言ったからにはやってみた 絵・文章・音声の同時生成を再びや https://twitter.com/Zuntan03/status/1786165587573715394
1000名無しさん@ピンキー (ワッチョイ 6f31-7iwU)2024/05/03(金) 09:43:07.63ID:3NEtr/p00 >>966 >>最初からユーザーとAI双方の名前を付けて途中まで会話が進行した履歴をでっち上げてその続きから始めさせるようにして AIが勝手にユーザーの発言始めるのをストップワードにユーザー名入れてそこで強制的に打ち切るってパワープレイやったわ この、でっちあげるって、Silly Tavernそのものが会話をでっちあげてる、って意味なんか?