>>44
そもそもLLM本体には会話履歴っていう概念はなくて、履歴を文章としてフォーマットしたものをプロンプトとして投げてるだけ
だから、基本的には公式APIに投げてるプロンプトが毎回変更されてるのを、ユーザーには履歴が変更されたり削除されたりしてるように”見える”工夫がされている