Формат SET_TARGET_PROPERTIES:
SET_TARGET_PROPERTIES(
target1 target2 ... targetM
PROPERTIES
prop1 val1 prop2 val2 ... propN valN
)
Причина вашей проблемы в том, что ваши переменные LIBUSBMUXD_VERSION и LIBUSBMUXD_SOVERSION не определены, и поэтому синтаксис вашей команды:
SET_TARGET_PROPERTIES(target PROPERTIES name)
Вместо:
SET_TARGET_PROPERTIES(target PROPERTIES name value)
Чтобы это исправить, попробуйте заключить в кавычки переменные;использование «$ {LIBUSBMUXD_SOVERSION}» должно гарантировать, что оно принимает значение пустой строки, даже если переменная не определена, тем самым придерживаясь синтаксиса.