Очевидно, вы не можете отлаживать вычислительные шейдеры в XCode 9.2. Я перешел на Xcode 10.2 и смог использовать GPU Frame Capture для отладки своих вычислительных ядер.
P.S. Я не уверен, что это задокументированное ограничение, но это то, что я испытал.