Нет ли сообщения об ошибке при настройке ffmpeg?
Или вы можете ввести команду ffmpeg и показать конфигурацию как
configuration: --enable-shared --enable-libx264 --enable-libx265 --enable-gpl --enable-nonfree
Возможно, вы можете попробовать установить x264 из источника.