Я предполагаю, что ваша команда ffmpeg работает из CLI OK. Если нет, сначала запустите это.
Если вы пытаетесь вывести FLV, созданный на лету с помощью PHP и ffmpeg, попробуйте следующее:
<?php
header("video/x-flv");
passthru('ffmpeg -i Videos/robot.avi -ab 96k -b 700k -ar 44100 -s 640x480 -acodec mp3 Videos/robot.flv');
?>
#### EDIT #####
Вот ссылка на документацию ffmpeg, в которой говорится об использовании STDOUT: http://www.ffmpeg.org/ffmpeg-doc.html#TOC41
Я думаю, вы должны быть в состоянии сделать это:
<?php
header("video/x-flv");
passthru('ffmpeg -i Videos/robot.avi -ab 96k -b 700k -ar 44100 -s 640x480 -acodec mp3 -f flv pipe:');
?>