よく言われてるけど今のLLMは最初に書かれたことと最後に書かれたことに注目して
中間を軽視したりときには無視したりする傾向があるらしいね
だから履歴圧縮とかは中間あたりで掛けるのがいいってのをどっかで読んだ(どうせ軽視されるから、らしい)