なんJLLM部 避難所
レス数が1000を超えています。これ以上書き込みはできません。
0001名無しさん＠ピンキー 転載ダメ (ﾜｯﾁｮｲ e249-iArR)2023/12/17(日) 21:48:59.66ID:???0
!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降

本スレ
なんJLLM部 ★6
https://fate.5ch.net/test/read.cgi/liveuranus/1701542705/
VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
0993名無しさん＠ピンキー (ﾜｯﾁｮｲ 83be-7iwU)2024/05/02(木) 22:06:38.56ID:???0
Ninjaは創作物から学習した比重高いんかな？プロンプト工夫してチャットさせてるけど
現実的な設定よりRPG世界で女の子と冒険するみたいな設定のほうが自然な流れで会話してくれる
0995名無しさん＠ピンキー (ﾜｯﾁｮｲ cf13-6o3J)2024/05/02(木) 23:27:28.80ID:???0
>>992
こちらこそ不具合報告ホンマに助かっとるんでサンガツや

>>934
VecteusとNinjaのポエムやで

- Vecteus Q4_Kのコスパが凄まじいのでIQ4_XS版も触ってみたい
　- Vecteusのコンテキスト広げた版にも期待

- Ninjaも128Kでない版を4Kコンテキストで動かしていると良好
　- 128K版ではコンテキスト16Kあたりから品質に悪影響があるような気がする？（LCA 32K感覚比）
　　- とりあえず128K版を8K運用
- NinjaにInstruction formatを適用すると申し訳率が上がる？
- Ninjaの量子化がQ_8_0までしか無い
　- IQ4_XS版を触ってみたい

https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9#kl-divergence-statistics-for-mistral-7b
↑は確かLCAニキが紹介してくれたやつやが
数値よりもこのスレで何度もIQ4_XSと他の量子化を比較してて「なんかコスパええやん」な印象や
1000名無しさん＠ピンキー (ﾜｯﾁｮｲ 6f31-7iwU)2024/05/03(金) 09:43:07.63ID:3NEtr/p00
>>966
>>最初からユーザーとAI双方の名前を付けて途中まで会話が進行した履歴をでっち上げてその続きから始めさせるようにして
AIが勝手にユーザーの発言始めるのをストップワードにユーザー名入れてそこで強制的に打ち切るってパワープレイやったわ
この、でっちあげるって、Silly Tavernそのものが会話をでっちあげてる、って意味なんか？
10011001Over 1000Thread
このスレッドは１０００を超えました。
もう書けないので、新しいスレッドを立ててくださいです。。。
life time: 137日 11時間 54分 9秒
レス数が1000を超えています。これ以上書き込みはできません。
ニューススポーツなんでも実況