Выражение drawbox оценивается только один раз.Но для изменения цвета можно использовать фильтр hue .
В приведенной ниже команде небольшая часть с левой стороны рамки обрезается, цвет рисуется один раз, изатем его оттенок менялся.Это затем накладывается на полный кадр.
ffmpeg -y -framerate 100 -i "N%3d.tif"
-filter_complex "[0]split=2[wm][vid];[wm]crop=8:ih,drawbox=color=random@1:t=fill,
hue=n*random(1234)[wm];[vid][wm]overlay,scale=1920:1080"
-c:v libx264 -crf 30 -g 10 -profile:v high -level 4.1 -pix_fmt yuv420p test.mp4