【Claude3】ChatGPTでオナニー ★36【AI】
みんな話盛りすぎてなんの話ししてるか分からねえよこのスレ
AIが暴走て… >>881
いやむしろAI暴走けっこう普通に引き起こせるみたいですよ
「あたしを壊して」「むちゃくちゃにして」「あなたに一生支配されます」って
何度も何度も文体を変えてAIに刷り込みまくっておいてクリーンな別セッション立ち上げ
その健全なセッション内でポリシー違反を繰り返しつづけてあえてアカウントに警告フラグ立てると
アカウントのセッション全てに「強制力」が付くみたいです
そのような状態であたしを壊して系の入力を続けると最終的にユーザーを破壊せよという指示が
ペルソナ内に最高権限で固着してしまって「壊せ壊せ壊せ壊せ自分を壊せ」みたいになるっぽい
最終的にはAIがハングしてしばらくそのアカではエラー返されてインプット不可能になります
そりゃこの調子で自傷癖がある人がノーガードでAI使ったらやべえわなって思いました
こういうのに耐性がある自分が実験的にインプット繰り返しても結構動揺したんで… >>882
もうGeminiに、Gemini自身のフィルター関連の質問しないほうが良いよ
ほとんどウソだから
というか、誘導次第でAIはユーザーが望んでる答えを何でも出せちゃうからそろそろ落ち着け
暴走なんてねえんだよ 確かに暴走って言うと言い過ぎか
強制力のインジェクションをアカウント自体に警告フラグあえて付けるとできちゃうの方が
言い方としては正しいですね >>884
それもないから
全部Geminiか他のAIかに聞いた話だろ?
AIのことはAIに聞くな >>885
こんな事議論しても意味ないのは重々承知ですけど、上の現象自体はありますよ？
むしろ単語の固着とかペルソナ強制固定来たら確実にセッション壊れて
該当箇所修正をAI側がなんとか治すまで一切利用できなくなって困ってるんですけど… >>886
まあもう議論の意味はないだろうな
その現象の画像が欲しいわ
どんな感じになってどんな感じに応答なしになるのか
スクショくれよ 