1 TecoGANを使わずに破解したのですかね？
右上のアイコンでいろいろ調整はできます。ただし元動画の性能?に大きく依存します。
2TecoGAN等と使っていないのならCPUだと思います。
3TecoGANを使わないと超解像はできません。TecoGAN以前のJavPlayerはFanzaで販売可能な程度の性能でした。
4キャプチャはDRM付きの元動画しか持っていない人用です。Fanza等の動画をキャプチャしてDRMを無効化しJavPlayerで再生可能にするためにあります。
5VLCで再生可能な動画をお持ちなら、JavPlayerだけで録画すれば枠など無いと思います。逆に、なぜVLCを起動するのかわかりません。