Я не знаю ни одного стороннего инструмента для отладки hlsl-шейдеров, но у меня был хороший опыт отладки с помощью нескольких простых приемов.
Вы можете просто скопировать цели рендеринга на процессор и сохранить их в растровом изображении, распечатать на терминале или получить доступ к нему в отладчике процессора.
Если есть ошибка, вы должны сначала проверить, действительно ли используемые вами буферы имеют правильные значения, в начале может случиться так, что некоторые текстуры создаются с неправильными параметрами или данные ожидаются в другом порядке ... по моему опыту это распространенный источник ошибок.