【Antigravity】AIエージェントでオナニー ★4
入力は(いま打ったトークン+過去ログの総トークン)で、キャッシュヒット率はざっくり言うと入力のうちの過去ログトークンの割合だよ
過去ログ分は値段1/10？くらいにしときますねって形 ここからここまでキャッシュしてね ←通常の入力より高い
キャッシュしたもので応答してね、それとこれが新規インプットね ←キャッシュヒットしたトークンは通常のトークンより安い
こういう仕組みだね
あと、インプットには自分の入力以外にGEMINI.mdなどのルールとかスキルの概要とかMCPサーバーのツールの説明とかそういうのも毎回全部入るのと、
それまでの会話履歴も入るので、会話が長くなれば雪だるま式に増えるよ
なのでクソデカプロンプトをGEMINI.mdに入れたまま雑な指示でコーディングさせるとかするとすぐパンパンになるんだ・・・そらそうですわね・・・
あとはアウトプットが次のインプットのコンテキストになるから小説で長文出力を目指してるとそれも影響あるね 世界観、キャラ設定、プロットとか詳細に書いてるとそれだけで字数嵩むものなあ
とりあえず脱獄＋ペルソナをAlways OnからManualにして
初回にメンションで渡すだけにしてみてるけど効果あんのかねこれ ・出力は毎回log.mdに行う
・log.mdの中身を毎回消す
とやれば雪だるま式トークン増加を回避できる・・・のかな？ セッションが終わったら出来の良かった小説は
リネーム保存してファイル空にしてるけど
一話ごとにやると多少コンテキスト節約になるのかな セッションが短ければそれだけコンテキストは少なくなる
ただ、そもそも現時点で不足してないならそこまで節約しなくてもいいんじゃね？ 