Скорее всего, вам нужно указать полный путь к mysqldump, так как он, вероятно, отсутствует в переменной среды PATH для пользователя, под которым работает PHP. Перейдите в командную строку на сервере и запустите
which mysqldump
Он выплюнет полный путь. Затем замените mysqldump в вашей команде system()
на полный путь