Там прямо сказано, что не так: ему нужно установить HOME
env var. Не знаю, какая у вас среда, но вы можете узнать ее значение в оболочке, где команда работает так, как задумано:
echo $HOME
Затем добавьте это значение к вашему вызову exec()
:
exec("HOME=/the/path/you/got/before $theRMarkdownCommandYouNeed")
Или вам может понадобиться другой путь, указанный c для пользователя, под которым PHP работает.