Если вы используете pybind11, то вам не следует делать это таким образом .
Сначала сделайте pybind11 подмодулем в вашем git-репо или просто проверьте его в дереве исходных текстов.и вызовите:
add_subdirectory(${CMAKE_SOURCE_DIR}/3rdParty/pybind11)
Затем вы можете создать модуль pybind:
pybind11_add_module(${NAME} MODULE ${SRC} ${HEADERS})
Таким образом, если чего-то не хватает, вы увидите это при запуске CMake, а не во время сборки.