Ваш RpcStatusToHresult (статус) эквивалентен MAKE_HRESULT (1, FACILITY_RPC, статус).
HRESULT_FROM_WIN32 (статус) эквивалентен MAKE_HRESULT (1, FACILITY_WIN32, статус).
Я, как и вы, догадывался, что первое будет правильным, но на практике, по крайней мере в том, что касается получения правильного сообщения об ошибке от FormatMessage (), последнее - то, что на самом деле работает.