OpenAIが、特権命令を優先するように学習をさせることでシステムプロンプトが最優先になるという脱獄対策を出してきた。それでも何かしら抜け穴はあるかもしれんが、暗いニュースよのう。
https://i.imgur.com/BCga2Iu.png
https://i.imgur.com/TkyjJwX.jpeg