R не делает символьную интеграцию, только числовую интеграцию. Существует пакет Ryacas, который взаимодействует с Yacas, символической математической программой, которая может помочь.
См. Пакет distr для возможной помощи с частями свертки (это сделает свертки, я просто не знаю, будет ли результат символически интегрируемым).
Вы можете численно интегрировать свертки из distr, используя функцию интегрирования, но все параметры необходимо указывать в виде чисел, а не переменных.