色々検証した結果、PNGが綺麗にしかもファイルサイズをとても抑えられたのでPNGを使用しようと思います。
ファイルサイズを比べたところ、JPEGを品質100%で保存したのに比べてPNGは1/30のサイズに抑えられました。
テストしたプログラム↓
#include "hspcv.as"
screen 0, 512, 512
randomize
repeat 512
color rnd(256), rnd(256), rnd(256)
line -1, cnt, 512, cnt
await 1
loop
cvbuffer 0, 512, 512
cvputimg
cvsave "testfile.bmp"
cvsave "testfile.png"
cvsave "testfile.jpg", , 100
stop