LLMがステートレスであり過去の発言の自覚なんて皆無であることは出力書き換えでよくわかるよ
これは富士山を阿蘇山に書き換えて問い詰めた結果
AIに聞いてみた系の回答は全てこれと同レベルと思っていい
https://i.imgur.com/p2hw2VO.png
https://i.imgur.com/ogcCHQJ.png
https://i.imgur.com/6ShjbXK.png