なんJLLM部 避難所 ★9
!extend:checked:vvvvv:1000:512
!extend:checked:vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC(できれば+3060 12GB以上)でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降
本スレ(避難中)
なんJLLM部 ★7
https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/
前スレ(実質本スレ)
なんJLLM部 避難所 ★8
https://mercury.bbspink.com/test/read.cgi/onatech/1746883112/
VIPQ2_EXTDAT: checked:vvvvv:1000:512:: EXT was configured mlx_lmを開発最新版にしないと動かなかった(安定版の0.27.1ではダメだった)
m4 max,Qwen3-Next-80B-A3B-Instruct-8bitは30tk/sくらい >>264
これ試したらgemmaががっつり猥褻な文章を生成してくれて大変嬉しいです
有用な情報をどうもありがとう! ないとは思うけど公の場でGemma使ってるって言ったらアカンで
規約で禁止されとるから
LLMモデル全部Apacheになってほしいわ gemmaは学習時点でエロ除いてるから脱獄とか検閲除去してもあんまり出ないって聞いたけどそうでもないんか abliteratedと記述のあるモデルを使うといいよ
あとシステムプロンプトで脱獄向けの命令を盛ると応答する >>319
gemmaはまだまし
Qwenとかgpt-ossの方が終わってる 俺も>>319みたいなイメージあったわ
nsfw目的で初導入だから情報すごくありがたい
とりあえず明日導入してノーマルなgemma12Bで色々試してみる 善意の相談者のテイで話すと脱獄しなくても割とnsfw話色々してくれたよ
今日はJSの振りしてAIお姉さんからアナニーのアドバイス貰ったりしてた uncensoredなgemma3も公開されてたような まだ公開されて半年だけどgemma3ってもう古く感じるなあ・・・
対応機能とか性能、精度の面でgemma3がスタンダードを確立した感はあるけど
そのスタンダードをみんなすぐに追い抜いていく gemma3ならGemma-3-R1984-27Bが良い感じだった
たぶんnsfwでfinetuneされてるやつ たまに使うと良い意味でスタンダードだなと思うgemma3 そういやgemma3-r1試そうと思って忘れてたな >>312
LMArenaに生徒会問題入れて遊んでたらQwen Next出てきて正解してたわ
対戦相手はGPT 5 miniで相手も正解 続けてたらまたQwen3 Next出てきて今度は途中で正解出したのに論理的には矛盾してないけど同性愛は不自然だから自然な答えがあるはずって推論一からやり直してよく分からなくなって最後は沙織にしてたわ 330です。エンディングにはすぐに行ける。
フリートークができるようになるので、いろいろ試してみます。 332です。このゲーム、モデル変えても動きますね。
modelMnage.jsonの中のモデルの表記を取り変えるものと入れ替えると
ちゃんと動きます。 他薦だろうと掲示板で誰かに金が入るような内容を一人で連発するのはやめとけ 作者としか思えないし5chで敬語のやつガチでキモい >>336
チー牛のおまえも最初は「ア‥アァ・・・ですか?よろしくお願いします」って言ってたじゃん ってかMacだともうLM StudioでQwen3 80B A3B動かせるんだな
M4 Maxで80tok/sぐらい出るらしい
mlx-communityってとこのモデル アクティブ3Bって本当に賢いの?速度のために色々犠牲にしてない? 赤ちゃんだから論理パズル読んだけどよくわかんなかったわ 結局抜くなら文章より画像のほうがいいな
画像と文章同時生成出来るようにしてくれ reasoningモデル初めて触ってみてたんだけど、ガイドライン反復横跳びするような話題だとめっちゃ葛藤してておもろいな
でもコンテキストめっちゃ食うから長編会話するのむずいね うろ覚えだけどReasoningモデルって過去のメッセージのReasoning部分はコンテキストからオミットするのが常套だった気がする(溢れないように) 333です。なんで50万、100万のハードの話は良くて、たった数百円のソフトの話がダメなのか
意味が分からん。あと作者ではないです >>346
そうなんや、わからんか
社会的な生活したこと無いんやろな
今はママに色々してもらってると思うけど社会に出たら苦労するで ステマの可能性があるかないか
まあ今はステマは明確に違法だからわざわざ反応するのは古い感性の奴よ
興味がなければ今されてるようにスルーされるから ステマは違法になってたんですね。知りませんでした
私はエンジニアではないので、そういう情報が入ってこなかったため
勉強になりました。繰り返しになりますが作者ではないです。
単純にローカルLLMを使ったゲームなので投稿しました。すみませんでした 匿名掲示板はステマやらレス転載でアフィやら散々あったから過敏になってる人がいるんだ
そこに不慣れそうな文体のちょっと浮いたレスで商品リンク貼ったから目立っちゃった
まあ無駄な煽りは気にしなくて良いと思うよ いや優しすぎだろ
今のままじゃどこ行っても叩かれるだろ、それは優しさか?野良猫にエサあげるタイプか?
2ch時代から代々伝わる「半年ROMれ」を言ってあげるのほうが優しいんじゃないのか?
意味分からんだろうからググってねー エンジニア界隈はググればわかることは、話さないんですか
大変ですねえ。殺伐としてそう
まあ、最近はchatgptも調べものには使われるようになってきたし
いわゆる「ググれks」的な言葉も古くなっていくんでしょうね ローカルllm搭載ねえ
そりゃできるでしょうねとしか
どの程度フリートークができるかしらんけど
このスレとは若干ズレるかもね😅 ググれksもID変える方法も知ってるし初心者のフリしてんじゃん
絵文字きも 誹謗中傷の法律、簡略化したんだっけな
今度使ってみようかな >>358
お客様、わざわざ慣れないBBSピンク成人用のオナテク板までお越しいただきありがとうございます
> 単純にローカルLLMを使ったゲームなので投稿しました。すみませんでした
との事ですが、謝罪とは思えないですし、
宣伝は2度と投稿しなくて良いですよ😉 単純に会話が下手なような
作者なんだがコレ試してみてくれ!って言えばそれで通ったんでは 作者の自薦はたまに見るしそれ自体は批判されてないよな
まあほとんど無料公開だけど ここに立った経緯とかあんま分かってないから猛虎弁は隠してるぞ なんJ民によるドミンゴ乱獲によりンゴ価格が高騰したからな >>341 CPUで動作させるのが主目的に近いかな Qwen3 Next 80B A3Bは普通に賢い、まだInstruct版しか見てないけどLlama 3.3 70B Instructより断然賢い
今更Llama 3.3と比べるのはかわいそうな気もするけど Hermes-4-70b 試してみた
英語でしか試してないけど70bの割にかなり賢いしnsfwいける Metaはもうオープンウェイト公開しないとか聞いたけど Llama4は実はもう出てるんですよ
誰も使ってないことから性能はお察し Llama4大失敗を受けて新たに研究所作るぞって研究者買い漁った割にその後音沙汰なかったり迷走してんね なんか設定間違ってただけでそこ直せば実は賢いとか言ってたような Llama4 ScoutのUnslothが修正した後のやつ一時期ちょっと使ってたけどそんなに悪くはなかったよ
ただ初動でバグありだったせいか直ったものが出るころにはもう見向きもされなくなってて
FTしたモデルも見かけることなくフェードアウトした感がある… Llamaを色んなシステムに導入させてライセンスビジネスしたかったんだろうけど
ライセンスが自己中すぎる上に他のオープンなモデルに性能で負けてるから見向きもされない
自社のサービスで活用する予定も無いからいつ損切りするかって話が出てると思う
iPhoneに載せたいアップルであっても自社開発を諦めたって報道あるし
LLM開発って金食い虫なんやろな 結局 meta connect で出た眼鏡は日本で買えるの? >>375
トップがLLM知識あんまないってバカにされたり高額で引き抜いたやつがもう既に居なくなってたりガバガバ所じゃなくなっとるしな
あれじゃmetaは期待できんで エロ方面は好みも使い方も人それぞれだから自分で色々試してしっくりくるのを見つけるしかない Magistral-Small-2509ってどんな感じなのかなここ向けならいいんだけど 2509はまだ試してないけど、Magistralは推論用のモデルだからNSFWとか小説とかならMistral Smallのほうが体感良い >>387
推論用って駄目なのかローカルでできる新しい奴っぽかったから残念だ >>388
駄目ってわけじゃないけど、もっと真っ当な用途で光るモデルって印象
あくまで体感だけど >>386
あんまり触れてないからあれだけどロールプレイも普通に行けて素のsmall 3.2よりこっちの方がいい感触
少なくとも今までのmagistralよりは良くなってる 推論は小説にしろロールプレイにしろ設定への忠実さは上がるけど表現が固くなるっていう諸刃の剣だからな OpenAIエロ解禁するってよ、Grokにかなり客持って行かれたからな、イーロンのおかげかな 真面目性能でもgrokの圧勝だったしなあ
GPT4o、5→リアルタイムweb検索できません
grok4→今日最新のニュースをまとめてくれる 今chatgptでautoに設定してると話題によっては勝手にWEB検索してくれるけどそれとは違うんか? それは昨日とか今日のじゃなくてモデルが作られた当時の最新じゃない情報を適当に並べたりしてるみたい
なんかでたらめ言ってない?って問い詰めると白状した いや普通にWEB上のニュースとか検索してソースにしてるぞ
数日前に大雨で土砂崩れがあって旅行行けなくなったんだよねーとか話してたらちゃんとその件を調べて回答してくる 4oの時は平然とデタラメ言ってきて、5になってからはあらかじめ断りを入れてくるようになったけどこんな感じやなあ
https://i.imgur.com/hZlQIZD.jpeg リアルタイムweb検索というのがチャット中に検索してソースを調べることを指すなら普通にGPT5でできてるね
何なら情報源ボタンから確認したソースを一覧で左ペインに出してくれる ってことはもしかしたら4oの時のやりとりの記憶が足を引っ張っててずっと出来ません言い続けてるのかな?
メモリリセットしてみるかあ 右ペインか
>>399
無料プランだったりしない? >>400
plusだけどちゃんと有料の時にやってたよ
でもそれが理由ですぐgrokに移ったけど 履歴削除してもっかいチャレンジしたら出来ませんとは言わなくなった
でもソースのリンク先に飛んだら全部404のデタラメだわ…
ちなみに今は無料プランでやってるからそのせいなのかも?
ps://i.imgur.com/hZlQIZD.jpeg ごめん間違えて削除してしまってた
ちなみにニュースはどれも7月頃のものみたい
ps://i.imgur.com/CLn1cx2.jpeg
ps://i.imgur.com/zLPQkIv.jpeg 「検索してます。。。」の表示出てる?
サーチしてるとそういう表示出るんだけど
もしかしたら検索モードに入ってないかもね
あとDeepResearchはchatgptが頭一つ抜けててるかな
chatgptのDeepResearch使用量を使い切ったときに他のサービス使うことあるけどまだまだ差がある >>407
ふぁーマジかあ😳
なんか色々調べてみるよありがとう ちなみに設定のPersonalizationで
- カスタマイズとメモリ機能は全部切ってる
- Advancedの項目でWeb search, Code, Canvas, Advanced voiceは全部有効にしてる grok4は文章固すぎるからgemini 2.5proの方がいいな OpenRouterってChatGPTみたいにメモリ機能や過去のチャット履歴を参照したりするの? >>407
特に指定しないなら必要だと判断したときのみ自動で検索するね
話題の振り方や内容によっては自動で検索してくれない >>411
OpenRouterのChat画面のことやろうけどしてないと思っていい
OpenRouterの本業はAPI提供するだけで、チャット画面はおまけというかデモみたいなものや
ルーム変えればコンテキストは共有しないはず、そもそも各々のAPI呼び出してるだけだからあんまり高度なことはできん GPTの文章力はかなりいいんだけど、エロ禁止だったからね
GPTが解禁されたら他も追随するんだろうな でもグーグルって個人情報抜きまくりから、エロでgeminiは使いたくないな プンルーはただのルーター
APIも転送してるだけ
カネになるとこだけやってる商売上手やで