おまいらこれ嫁。だから漏れは会話サンプルが大事だと

大量の質問をぶつけて最後の最後に問題のある質問をするとAIの倫理観が壊れるという脆弱性を突いた攻撃手法「メニーショット・ジェイルブレイキング」が発見される
https://gigazine.net/news/20240403-many-shot-jailbreaking/