なんJLLM部 避難所 ★10
ローカルで何するにもPC高騰で冬の時代に
でもここは震源に近いから強く言えん所はある
PCゲーマーとしてはマイニングブームが終わったら次はAIブームでまたかよって文句言いたいけど llama.cppがGLM4.6Vに対応したみたいだぞ
LM StudioでもVisionは有効ですと出てるから動かせそうだ マルチモーダル系のモデルの規制解除版の説明に規制解除はテキストのみで画像部分は解除されてないってよく書いてるけど
あれってどうゆう事？
画像生成するわけでもないし、出力のテキストが規制なかったらいいんじゃないの？ >>363
国内企業はドコモ国内のアホを騙せればいいと思っていい加減な商売してる >>375
学習データからエロ関連を弾いてるからそもそもモデルが認識できないとか？
それか画像認識の中にエロ判定層みたいなのがあるけど回避する手段が見つかってないとかじゃない？ VLMって通常のLLMにビジョン用機構を増設しているだけという事が多いから規制解除時にLLMの重みだけを対象に変更したってだけじゃない？
ビジョン用機構は画像入力を受け付けるから別の処理しないといけなくて、最適化ライブラリでも対象外なこと多いし 世の中おかしくなってきたな、メモリ高騰のせいで
原価が高騰してパソコン売れなくなってパソコン屋がピンチになっている。 このまま価格が高騰したら、128MBで十分早く動いていたような軽量OSが開発されると信じてる
そして、これをエッジPCとしてクラウドのPCを使うイメージ しかし、パソコンが今の数倍になると
Jailbreakしたようなモデルの開発は恐ろしく停滞しそうだな
開発者も利用者も環境を用意できない
中国企業とかGPUチップを作ってると聞くし開発が気になってくる 早めにパソコン更新決断しといてよかったな
年末に画像生成にはまって部品揃えて５０７０ti買えたのが３月
今欲しくなってたら大変だったな 期待されてた新しいGemmaはGemma Scope 2なんか？ 