セッションを長く続けると過去情報が多くなるので一度のやり取りで消費するトークンも肥大する、って理解で合ってる?
その場合は主なデータ保存して新しいセッションにってできればいいんだろうけど