なんJLLM部 避難所 ★10
!extend:checked:vvvvv:1000:512 >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/ https://mercury.bbspink.com/test/read.cgi/onatech/1746883112/ https://mercury.bbspink.com/test/read.cgi/onatech/1755924738/ 最近始めた人は、日本一高い山は？って質問に富士山って答えられるかでＬＬＭの性能見ればいいよ >>709 >>709 ワイは 文章の良し悪しを判別すること自体も難易度が高いタスクなんだよな 自分の得意な専門分野の事を聞いたら良いんじゃない？ エロ画像を認識させて画像の内容をエロく説明させたいんだけど、おすすめの環境ある？ 初心者はLM Studioが良いよ ありがとう slmが凄いとかいう風潮やめて欲しいわ SLMは色々な用途で普通に役に立ってるし 釣りタイトル文化に問題があるような AI驚き屋ってのがある ラズパイとかが好きなタイプの連中が騒いでるんじゃね SNSで新しいAI情報を紹介してるだけみたいなのまでAI驚き屋といって叩いて煽ってる側が PC新調したしローカルLLM始めたいなと思ってスレ読んでたけど、割とグラボ複数でVRAM増強してる感じなんやね >>729 ちょっと前に比べたらvram16gbに乗り切って日本語ちゃんと返せるモデルが乱立してるのは劇的進歩ではあるよ Qwen235bが出た時に速攻でメインメモリ128GB以上の環境を作れた奴が勝ち組 軽量でも動く設定いれて軽いモデル入れれば動くやつもあるよって感じかな qwenやgpt-ossなどMoEだとGPUは1枚で十分 SLMでフィジカルAIって好きな特徴の女がいたらパシャパシャしまくるデバイスとかそんな奴やろ？ ryzen haloってのはcpuオンダイメモリなん？ 3060復刻、DDR4復刻、AM4復刻 >>726 一般向けでこんなに高騰するんじゃ企業向けの高騰も時間の問題だよな OpenAIが数年分のメモリの大量発注かける DRAM事業はハイリスクハイリーターンだからな 破滅的忘却のせいでAIの性能に限界が出てくる >>745 >>744 ま、人類に与えられたリソースを食い潰す速度がとんでもなく加速してるって事よ >>747 べつにリソースを食い潰してるわけではないだろ >>749 >>751 誰のせいかと言えばトランプ関税のせいでしょう 旧世代回帰で、得をするのはインテルだな、いいね、13世代14世代なんてなかった。インテルの主力は12世代。 そのうちメモリ2Gも積んでるなんてスゲーみたいになるのか 今SSDもヤバい事になってきてんだよね だいたい悪いことは中国のせい 正月だったかパソコン工房でSSD4TBが3万円台で売ってけど買っとくべきだったな >>751 【本文】↓ llamacppで数日前にqwen3-nextの1〜2割高速化のパッチが当たってたみたいやで >>760 今ってVRAM16GB RAM64GBで動くエロいLLMモデルやとなにがええんや？ amaterasuってどんなやつや？と見たら123Bやん SillyTavernでAratako氏のMistralPrism-24B使ってるわ >>763 RAM64GBだと、50GBクラスのモデルはctx8192とかにしないと厳しいかもね。 DRAM活かすならMoEモデルだから確かにこのへんか コンテキスト長を増やすとどんどん性能が落ちるのは最新モデルでも変わらないので小説やロールプレイなどの用途では128K対応モデルだろうと8192推奨みたいやで エロエロ特化のllmレンタルなら商売になるんでは？ macのlm-studioでしか試してないけど 「システムプロンプト」欄に 今の俺にはRAM256GBは夢のまた夢だが、RAM256GB積めばGeminiと遜色のない小説文章を出力してくれる？ 今ローカルで使える最強のモデルでもgemini 2.5 flashあたり あのgrok2さんが500GBぐらいあるからね >>779 GLM4.7を想定して書いたけども ノベルAIがGLM4.6だっけ？ゲミニと比べたらゴミみたいなもんだし厳しいな GLM 4.5ならともかく、4.6か4.7ならGemini2.5fは越えてるだろ >>774-776
