色々検証した結果、PNGが綺麗にしかもファイルサイズをとても抑えられたのでPNGを使用しようと思います。
ファイルサイズを比べたところ、JPEGを品質100%で保存したのに比べてPNGは1/30のサイズに抑えられました。
テストしたプログラム↓
#include "hspcv.as"
	
	screen 0, 512, 512
	
	randomize
	
	repeat 512
		color rnd(256), rnd(256), rnd(256)
		line -1, cnt, 512, cnt
		
		await 1
	loop
	
	cvbuffer 0, 512, 512
	
	cvputimg
	
	cvsave "testfile.bmp"
	cvsave "testfile.png"
	cvsave "testfile.jpg", , 100
	
	stop