Это не прямой ответ для решения этой конкретной проблемы, а более общий. Я предполагаю, что здесь вы используете NVCC для компиляции кода, который включает в себя заголовок Boost. Передача сильно шаблонного кода через NVCC иногда вызывает проблемы. Убедитесь, что вы используете самую последнюю версию NVCC. Поддержка шаблонов постоянно улучшается, и вам может повезти с обновлением.
В противном случае, вы можете разработать способ разделения вашего кода на части с помощью Boost, который не должен проходить через специфический код NVCC и CUDA, что и делает.