LLMへの入力では、システム的にはこれまでのやりとりの全文が毎回入力されている
その全文が一定量を超えると古い順から無視されていく
これがいわゆる忘れるという現象
この一定量をコンテキストサイズと呼ぶが、モデルやサービスによって異なる値が設定されている
パープレの場合は日本語で約32000文字なので、入出力の累計が32000文字を超えたセッションは前のほうが無視されていることになる
普通の使い方だと100往復よりかなり前にこれを迎えると思うので、だとしたらそのセッションに拘る理由はないので、早く引っ越せばいいのにという発言に至った