出力トークン数の難しさもあるな
GPTって出力トークン数を1桁とか無茶な値にしたり、絶対に無限にしりとり続けろとか指示されない限り
上手い具合にトークン内に文章を収めてきて、出力が尻切れトンボになる事って少なかったと思うんだけど
Claude3って筆が乗ると4000トークン前提で突っ走るから、出力2000トークンに縛られてるPoeとかだと途切れる
そして「続きを」と指示しても途切れた直後からじゃなく次章からみたいな感じで話が飛んでしまう