やっと現行スレに追いついた赤ちゃんなんやが、コンテキスト長が100kと200kって動作に影響ある?
やりたいことはPOEでOpusのBot立ててオリキャラとなりチャ(シュタゲ0のアマデウスみたいな感じ)
調べたらコンテクスト長さは入力可能なトークン上限って書いてあったんやが、
キャラ設定に100kトークンも書く予定は無いし、、、
スレの過去ログ見てたら記憶力が変わってくるとか書いてあってよくわがんない
会話を続けてたらそのログも入力とみなされてLLMは記憶してくれるってコト?