0745名無しさん@ピンキー (ワッチョイ 1f81-3KJc)2024/05/29(水) 23:31:11.99ID:???0 大葉で、チャットごとに増えていくcontextが、n_ctxの値に近づく(あと500程度)と、 次の生成が無茶苦茶遅くなるのは、溜め込んだcontextに対して何か処理をしているんだろうけれど、 どの様な処理をしているんでしょう? 単純に古いのを忘れるだけなら、こんなに時間はかからないと思うんだけど。