Используйте
ffmpeg -i cat.mp4 -i bg1.mp4 -i mask1.mp4 -i fg1.mp4 -filter_complex "[2]negate[a];[1][a]alphamerge[frame];[0][frame]overlay=format=auto[framed];[3]mergeplanes=0x00010200:format=yuva420p[fg];[framed][fg]overlay" out.mp4
Основной порядок операций: 1) прикрепить маску к видео bg, 2) наложить этот результат поверх содержимого. 3) наложить FG поверх второго результата.
Для достижения наилучших результатов также создайте маску для видео на переднем плане, и, если вы это сделаете, используйте alphamerge, как я сделал для видео bg, вместо плоскостей слияния, как я сделал.
Мне пришлось инвертировать маску BG, поскольку участки, выделенные белым цветом, представляют видимые области маски.