原理的にAIでのセッション内のやり取りは常にこれまでの全文が送信されている
AIは記憶を持たないけど毎回全文読み直して返答してるから会話が成り立つのだ
最近のモデルは100万文字以上受け入れられるが、文字数に応じて金を取られるのでサードパーティはこれをなるべく小さくしたい
だから三万文字以上は無視するとか◯回前までのやり取りしか送信しないとかそういうことをするわけだ
しかしそれだけだと会話が成立しなくなることがあるので、送信文を短くする代わりにこれまでの会話の要約を作って一緒に送信することで違和感を防いでいる