>>515
>>501です　普段大葉使わんから設定画面とか詳しいことはわからんのだけど、このPR見るとStreamingLLMを実装したPRがマージされてるみたいだ
この設定で動かないかな？
https://github.com/oobabooga/text-generation-webui/pull/5669