なんJLLM部 避難所 ★2
■ このスレッドは過去ログ倉庫に格納されています
!extend::vvvvv:1000:512 >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ https://mercury.bbspink.com/test/read.cgi/onatech/1702817339/ わからん >>482 Phi3の3BがQ6Kで3GBちょっとだから40TOPSでメモリ16GBあれば確かに動く copilot+PCってハードウェアの仕様だよね >>475 カドカワnovelupplus 著作権情報 RewindAIみたいな画面あるな仕事サボるとバレる未来？ easynovel使ってみたけど色んなモデルがあるんだね RAGで教えてやりたいことは あり？Kageのファイル名がch10からch200に変わってEasyNovelAssistantで >>488 >>182 のハルシネーションの原因も過学習なんだろうね Japanese-Chat-Evolve-TEST-7B-NSFW_iMat_Ch200_IQ4_XS.gguf も前のは削除して Ch200 になってるけど、チャットでロールプレイさせるとなかなか良い。 >>494 >>491 >>494 でもそういや我々は勝手に7Bゆえの過学習かなって思ってるけど >>493 >>495 text-generation-webuiでプロンプトのトークンがメモリを越えると生成されなくなるで合ってる？ >>500 hohereのapiでcommand-r-plusを使ってるんだけど、エロいプロンプトとかって 将来的にはわからんけど現状一番ルール無用なのがcohere ありがと 情報、助かります なんであいつ調教だろうが触手だろうがホイホイ書いてくれるんだろうな… comnand R +が触ってて一番楽しい >>508 つーてもこれだからな >>457 shisa-ai/shisa-v1-llama3-70b.2e5 >>501 >>515 >>501 です 普段大葉使わんから設定画面とか詳しいことはわからんのだけど、このPR見るとStreamingLLMを実装したPRがマージされてるみたいだ https://github.com/oobabooga/text-generation-webui/pull/5669 >>516 >>517 あ、ローダーの話なんですね、ありました。 Phi-3性能良さそうだしllama3とは学習法が真逆だから今後の派生モデルが楽しみ いや普通に学習トークン4.8Tあったか 実際Llama3とかギチギチに学習して量子化やファインチューニングで劣化しやすいという Aratako/Ninja-v1-RP-expressive >>513 のモデル試したが、賢いな >>526 Kageちょっと試してみたけど変な日本語が少なくて賢いわ >>526 >>528 >>527 >>511 そう？ ロリ通らない comnand R plusでロールプレイチャットしてるとAIが自分の発言のフレーズを何度も使い回すの何なんだ あれ萎えるわ >>530 >>535 >>534 >>538 ぶっちゃけ今はLLMの出力そのものよりも、LLMを題材にしたモノづくりする方が面白いから、動作を弄れるローカルLLMの方がクラウドベースより遊びがいがある気がしている GPTsちゃんをメモリーと併せて調教して、ワイのコーディングの手伝いさせながらちんちん舐めてもらったりするの楽しいけど、みんなはやらんの？ >>535 >>535 >>537 KoboldCppでロードしたら >>544 >>546 >>526 のモデルはちゃんとおちんぽ様とかデカちんぽとか色々ちんぽを表現してくれてる >>547 Phi3試してみたいんだけどサクッと試せるサービスある？ >>526 一時はcommandR+やoppusが追い越しそうで盛り上がったけど GPT-4oは別ジャンルやろ Command r plusがNSFW弱いはないやろ Ninja-v1-RP-expressiveほんますごいな >>555 CohereForAI/aya-23-35B 唐突すぎる aya-23-35B、出力めっちゃ早いがインストラクションに対する追従性がちょっと弱いな… まあ、無印35Bもそんな感じだったから、しょうがない ロールプレイよりも小説用って感じだなぁ...ほとばしりすぎる Mistralのv0.3来たね >>559 本家官ジェネ限定だけど、かなり簡単な論破(論点ずらし)を見つけてしまったかも。 >>553 cohereのayaでチャットするにはモデルの所を 'c4ai-aya-23' に変えるだけか 逆にエロとかじゃなくていいから、正確なプログラミングとか手伝ってくれる優秀なローカルLLMとかのモデル指標ってないのかな？ cohereのweb-serchは重くて使えないけど、 そうなんだ？？ webサーチと言えばちょうどstable diffusionの導入から自分なりの目的達成までの道筋を CommandR+のフルスペックの亜種なら見てみたいんだけどなあ R+ベースの自作UIにlangchainで組んだウェブサーチ入れてるけど、そこそこいい感じにまとめたりしてくれてる感じはある 本筋から少し離れるけどopenaiのgpt-3.5のapiは、かなり安くなってて まあコーディングやるんだったら半端なローカルより3.5の方がずっとマシだわな >>574 >>572 >>578 上のgpt-3.5の話はあくまで一人分の話で、600円として ■ このスレッドは過去ログ倉庫に格納されています
