なんJLLM部 避難所 ★4
■ このスレッドは過去ログ倉庫に格納されています
AIに色々なことをしゃべってもらうんやで >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ https://mercury.bbspink.com/test/read.cgi/onatech/1717886234 そのサンダーボルト5とやらのLLMの使い方を教えてください ソフトはkoboldでｌllmはURLで指定できるgooglecolabってありますか >>622 世間の盛り上がりに反してここの勢い死にすぎだけど他にAIスレってあったりするか？ 大して盛り上がってないんやろ どのレベルでの話かによるんじゃね 情報交換ならredditじゃない 軽くてまともな日本語対応モデルが全然出ないから盛り上がりようがない >>624 >>440 初めてPaperspaceでA100借りられた！ RTX4090が輸出禁止くらってる中国では2080tiの22GB改造版が流行してるって聞いていまアリエクで見てみたら7万円だったわ silly tavernでCR+の最新版使ってるけど高確率でsectionsectionみたいな文字列でてくる Copilot＋PCって、ローカルで小説とかかけるん？ >>634 >>636 sectionって出たら、logなんとかでNGトークンにして抑制して、再生成したらダメなん？ >>639 >>639 生徒会恋愛問題ってなんだろうって思ってchatGPT君に聞いてみたら、俺側に例題を出した上で俺の案を評価してくれたぞ！ >>642 >>643 生徒会恋愛問題はなんというか説明の仕方が悪いだけな気もする… まだLLMが思考してると思ってる馬鹿が居るのか ひょっとするとあなたもわたしも AI学習できるマザー出すくらいならVRAM直付けで出してくれよ >>646 こんな板にも言葉尻を捕らえてマウントを取ろうとする奴が沸くのか o1の推論プロセスなんか見ても既にLLMの生成はオートコンプリートの延長線とは言えない段階まで来ているだろ 謎の進化を遂げたみたいに言うから嘘と言われるわけで、ある閾値を超えると(人間から見て)性能が劇的に向上する現象が観察された、と言えばみんな納得するでしょ o1レベルの性能らしいDeepSeekのR1-Lite-Previewがローカルにも来るって話だけど何Bぐらいなんだろうな だよなー、GPU輸入制限食らっとるのになんでやろ？ (日本でH100買って)中国に行って観光して帰ってくるだけで儲かるんでしょ？ >>656 4090のGPUとメモリ引っ剥がした残りのゴミを日本人に10万で売りつけてウハウハだしな データセンターのサービスを使うという形でならアメリカでも https://www.moderntimes.tv/articles/20240828-01dxw/ >>637 なんとかEasyNovelAssistantの導入に成功したけど今流行りのローカル環境ってどれなん？しばらくはこれでいい？ >>667 決め打ちでモデルのダウンロードとかできるから KoboldCppにあらすじ書いて清書してもらうってのを続けてたら >>670 >>671 コンテキストサイズ4096だと日本語じゃ6000文字くらいしか覚えられないんじゃないか？ >>672 8192でもちょっとチャットして遊んだらすぐに超えちゃうよね easynovelでJapanese-nsfwなんちゃらっての使ってるんやが ローカルで128k対応モデル使ってみたことあるけど応答が遅くならん？ 他のモデルに浮気したが、Vecteus-v1は16384でも日本語破綻しなくて結局戻ってきた。 エロい喘ぎ声聞きながら読むとすごくエッチな気分になるんだが EasyNovelAssistantを再インスコしようとしたんやが コンテキストサイズ大きくてもチャット増えるとどんどん混乱するから6000くらいに収めてSTで要約 もうスクリプト落ち着いたしもともとの板に本スレ立てない？ ええと思うけど どんぐりの意味がわからなくて、向こうで書けないんだよな 数ヶ月前なら調子良かったけどな なんU復帰ええと思うけど戻ったところで人が集まるかといえばどうなんやろな ローカルLLMの要求スペック高すぎなのがあかんのや… ここで言うことでもないが、チャットサービスで脱獄するリスクとコスト、ローカルで動かすコストを比較したうえで結果物のクオリティを比べるとな…… 申し訳回避なんぞリスクもコストも何もないからな でもまあ避難してた理由がなくなったんやからなんJに帰るんは賛成やな LLMさわるならローカル以外邪道でGPUはRTX4090刺さなきゃ……エッチなチャットしなきゃ……っていうのは錯覚じゃん？ クラウドの話もべつにいいんじゃね ボイス付きでキャラになりきりながら雑談もタスクも付き合ってくれるようなエージェント、みたいなのはもっと流行らないかな 『出力する行ごとの内容は全く同一にしないこと。』っていう指示を追加したらあんまり繰り返しループに陥らなくなった気がする 来年頭には次世代GPUが出まくるからローカルでの話題も増えるだろうし、それまでのんびり話題繋げりゃいいんじゃないの。 まあcceは学習時に使うものだから我々に直接的な関係はないんだけどな entropixってやつで小さいモデルでもよくなるんだろ？ >>698 このスレ知的レベル高すぎん？ >>703 >>705 用語も多いからちんぷんかんぷんになるのもしゃーないで 今でも更新されてる初心者向けwiki知ってる方いたら教えていただきたい LLMに関してはないんだよなぁたぶん https://local-llm.memo.wiki 割とマジでここの過去スレ漁るのが1番有益やと思うで 正直ヤッて覚えるのが一番早い気がする AIにAIのこと聞くんですね笑 koboldの新機能のマルチプレイヤーモードって何ができるようになるんだ？ リリースに書いてある通り、俺とお前で同じAIチャットに参加できるってことじゃないのか https://github.com/LostRuins/koboldcpp/releases みんなで寄ってたかってAIにセクハラできる機能なのか。 > Bugfix for Grammar not being reset, Bugfix for Qwen2.5 missing some UTF-8 characters when streaming. ■ このスレッドは過去ログ倉庫に格納されています
