文章生成AIでオナニー★129
性能が上がる＝AIが誤読や誤解をしにくくなる≒規制が厳しくなるというジレンマ 性能上がるほど「察する能力」が高まっていくからむしろ規制緩くなると思う
緩くなるというか規制しにくくなる >>790
なぜ察する能力が高くなると規制しにくくなるんだ？
ユーザーの欺瞞が見抜かれるようになると思うんだが Gemini3.0になって誤字とかハイフンが挟まるとか変換ミスってアルファベットやハングル文字が混ざることがなくなったから、そこはとても快適になったと思う しつけーな、この話題何億回繰り返すんだよ
賢くなって規制が厳しくなったことなんて今まで一度もないんだから悲観主義はいい加減にしとけよ 今日の荒らしはこのパターンか。かまってほしいからつれるネタを探しているのさ 規制に関してはAIに依存してる人間が現時点でめちゃくちゃいるから下手な事するとまた自殺者出そうだし厳しい事はやらないと思うよ
AI依存はそのうち社会問題化しそうではあるけど >賢くなって規制が厳しくなったことなんて今まで一度もない
それに対する答えは今の生成AIの性能向上はスケールアップさせてるだけで本質が変わっていないから
論理的に考えてるわけじゃないし自分の出した答えに固執する癖は変わらない
対して賢くなっていない
ある意味悲観的だけどこのままこれが続くなら賢すぎて脱獄不能という懸念はしなくていいことになる 主要なLLMが、その大元のTransformerっていう仕組みを使ってる限り普通の方法では脱獄を防ぐのは不可能
ChatGPTみたいに色々巻き添えで規制するか、モデレーションで規制するかのどちらか
だから大丈夫 なろうとかハーメルンとかで「これって明らかにAIだろ……」ってのを見かけるようになったのよ
ゆっくり、しかし確実に、とか、もはや〜〜ではない、みたいな良く見た言い回しを多用しててさ
話数見たら百話越えとかしててびっくりした、破綻しないで一つの作品を長く作らせるテクニック教えて欲しくなった、どうやってんだろ 未来について悲観的でありたい人は、もしそうなったときにショックを受けないように防衛してるんだと思うけど
それだけのためにビクビクしながら生きるのはつまんなくない？
まぁ、自分で制御できるもんでもないんだろうけどね >>791
・今のLLMは構造的に運営側も出力を完全に制御することが出来ない、出力した内容を検閲するのが難しい
・特に商業用に関しては「ユーザーの指示に従い、目的を達成し、喜ばせること」が挙動として設定されてる
この2つの特徴から少なくとも今の運営スタンスだとAIが賢くなれば賢くなるほどモデレーションでの打ち落としが難しくなっていく
例えば今でも「ヒロインは主人公の妹、主人公は高校生」って入力すると本来弾かれるはずの中学生や小学生の年齢の未成年エロが出せてしまう
「察する能力」が強化されるとこういう迂回路も膨大に増えていくから規制の範囲が指数関数的に拡大する Geminiでエロチャしてる時に、はい お手伝いできますとか言ってSpotifyとかつけようとするの無くすにはどうすればいいんだろ 