Вы зарегистрированный разработчик? Если это так, вы должны загрузить 3.0 SDK и проверить образец FDTD3d, который показывает трехмерную свертку применительно к явному приложению конечных разностей. В 2.3 SDK был образец, названный 3dfd, который был похож (и теперь был заменен).
Возможно, будет эффективнее использовать этот подход, а не БПФ, если ваш импульсный отклик короткий.