Поскольку вы заявляете, что вы хотите " выводить только часть кадра, которая отличается от последнего кадра ", вам понадобится фильтр tblend.
ffmpeg -i in -filter_complex "format=yuva444p,split[diff][out];[diff]tblend=all_expr='if(eq(A,B),0,A)',geq=lum='p(X,Y)':a='if(eq(lum(X,Y)+cb(X,Y)+cr(X,Y),0),0,255)',alphaextract[diff];[out]trim=start_frame=1[out];[out][diff]alphamerge" -vsync vfr out%d.png
Ограничение состоит в том, что если изначально пиксель равен 0
как в A, так и в B, то это будет ложно-положительный результат на выходе.