なんJLLM部 避難所 ★2
■ このスレッドは過去ログ倉庫に格納されています
!extend::vvvvv:1000:512 >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ https://mercury.bbspink.com/test/read.cgi/onatech/1702817339/ どこまで戦えるかは別にして、英語中国語に次ぐLLM研究語圏ではあるんじゃないかね リートン「Hなのはダメです」 EasyNovelAssistantで >>170 のOcuteusをワンクリックで試せるようにしといたで >>182 https://i.imgur.com/NIkINNj.jpeg >>184 >>169 >>189 >>184 Mistral系で日本語化したのは llama-3 70Bの日本語特化モデルが来る前に、llama-2系70Bで最後に試したいマージ中だが、 もう出ないといけないので、とりま結果報告だけ https://rentry.org/caxcb37i 以前、マイニングしてたこともあって、手元にはこんな機材が残ってるんだけど、 これらを使って、LLMの環境を構築したいんだけど、うまく活用する方法はないかな？ RTX1660SじゃなくてGTX1650Sだったわw >>201 https://github.com/oobabooga/text-generation-webui https://docs.vllm.ai/en/latest/serving/distributed_serving.html >>204 >>205 >>206 >>151 langchainといえば、テンプレートの整備とか面倒だから自分で試したことはないんだが、最近のmixtral系日本語LLMってlangchainのエージェント駆動できるんかな >>206 ,207 vramお大尽羨ましす >>210 >>211 >>183 >>213 Local-Novel-LLM-project/Ninja-v1-NSFW-128kの大葉のローダー設定を教えてください >>218 う〜んロードできない、最新の大葉を入れなおすところからやってみる 大葉を最新にしたらよめましたありがとうございます。 >>209 >>209 sbtom/karakuri-MS-02.ggu 正直25GBくらいまでは許容できるんだけど、今のところエロで一番性能がいいのは >>228 26ならうちでも動作しないことは無いけど……ってなること考えるとやっぱ7Bとか13Bって手頃で良いよなと思ってしまう 手頃なのは間違いなく７BやLCAニキのモデルなんよ。 英語のモデルしか普段触らんけど、7Bとか全然こちらの指示に沿ってくれなくない？ 7Bとか実用性では最小限だろうしね Llamaには13BのモデルがあったけどLlama2には無かったからね(正確にはあるけど非公開) text-generation-webui-mainとEasyNovelAssistantでエロ小説を出力したので、シーンごとに挿絵をstable diffusionで生成したいですが、適切なプロンプトを生成するのに良い方法はありますか？ 小説のシーンを３〜４行程度にまとめる（まとめてもらう） 画像にテキストに音声に勉強すること沢山ありすぎるけど、これからの世代はこれらを全部使いこなす世界になると https://files.catbox.moe/zai7kf.jpg 漫画Originでも全員AI漫画家になってると予見されてた >>239 EasyNovelAssistantを色々と更新したで https://twitter.com/Zuntan03/status/1789454526384394670 >>244 Ninja-v1-NSFW-128すごくいい 何やるにしても最上流の企画AI作るところから始まるからマジでディレクター業なんだよな 企画は別にAIじゃなくてもいいのでは EasyNovelAssistantでたまに気に入った場面をじっくりやって欲しい時に限ってすぐに話し進んじゃうから EasyNovelAssistantのタブ素晴らしいな！タブの複製も簡単に出来たらますます捗りそう。リクエストさせてください 感想サンガツ >>252 Ninja-v1-NSFW-128あんまりストレートなプロンプト書くと申し訳されるな c4ai-command-r-v01をText generation web UIで動かしているんですが、 https://github.com/ggerganov/llama.cpp/issues/6112 >>255 >>253 >>256 Ninja-v1-NSFW-128の作るエロ文章見てたら、別に70Bとかで無くても日本語のちゃんとしたエロ作れるんだと思った。 音声とか絵の学習もそうなんだけど質の悪いデータいくら用意しても逆に質が悪くなっちゃうしな Yiの新バージョンがApache2.0でリリース >>259 実際command R ＋のロールプレイ性能は結構凄い 初心者向けに良い記事だね A6000でもGPUにフルロードしようとしたらiq2になるか・・・ +のiq2と無印Q8ってどっちが質の面ではいいんかね >>264 のローカルLLMの記事見てローカルに興味持ったんやけど asciiの記事からよく短時間でこんな場所にたどり着いたなｗ 何の地雷踏んだのかと思ったら、ArrowPro自体が地雷だったという話かｗ https://github.com/kgmkm/goalseek_ad/tree/main openaiの発表やべぇ 俺ポエムだが >>276 EasyNovelAssistantインスコして起動すると"Not enough memory resources are available to process this command"って出るんだけど ■ このスレッドは過去ログ倉庫に格納されています
