Что сказал Кен. Но если вы не доверяете его работе, вы можете снова вызвать SetThreadAffinityMask и подтвердить, что возвращаемое значение соответствует ожидаемой маске. (Но, конечно, если вы не доверяете функции, то вы не можете доверять второму вызову ...)
Не смущайтесь существованием GetProcessAffinityMask. Эта функция не предназначена для проверки работоспособности SetProcessAffinityMask, но, например, так что вы можете создать сходство потоков, которое является подмножеством сходства процессов.
Просто посмотрите на возвращаемое значение и убедитесь, что оно не равно 0, и с вами все будет в порядке.