この資料おもしろかったよ
https://speakerdeck.com/forrep/rag-does-not-need-a-vector-db

これを参考に検討するとしたら「全ログを読み込んで、それを元に応答生成」が無理だから、事前コンテキストを用意するために検索をするとして、
フルテキスト検索の「検索単語」を類似語や文脈的に関係する語に「拡大」すると、ベクトル化と意味的に似てる検索結果が得られるかも、っていう感じ