AIを知能体だと思ってるとそういう認識に陥りやすいんだよな
今のAI、特に生成関連は「こう来たら、次はほぼこれでしょ」を連続して動かしてるだけのパチンコみたいなもんだと思わないとダメ
そしてパチンコはパチンコでも「ユーザーに勝たせるように仕組まれてるパチンコ」っていうご都合主義遊技機であることもちゃんと理解しといた方がいい

ユーザーが語気強めに「お前バカ？太陽は西から昇るんだぞ」って言えば今のAIは「私が間違っていました、太陽は西から昇ります」って答える
何かを判断させたり
正誤を答えさせたり
今の状況を客観視させたり
ルールから外れることを求めたり
そんなことは一切出来ないことを知っておかないと的外れな方向にオナニープロンプト書くことになる