最大出力トークンが65535で、user入力とAiレスポンスをあわせて1ターンで、そこに乗るのは「入力した文字数＋出力された文字数」以外にもたくさんある
コンテキストウインドウで確保してるところもずっと続ければトコロテン方式で押し出されるし、
そもそもシスプロに安全ルール以外にもマルチモーダル対応のための指示も全部乗っかってるわけで、
それを毎ターン「user入力とAI出力によってつくられるコンテキスト」が乗っかって、さらに言えば要約されていくし、LLMの仕組み上途中のことは忘れやすいし
っていう説明を何度してもあらわれるのは、新規流入があるってことなんだろうな、いいことだ