Этот механизм называется самостоятельная регистрация , поэтому библиотека вашего COM-сервера выполняет регистрацию сама.
RegSvr32 yours.dll
RegSvr32 /u yours.dll
На самом деле, наряду с этим, существует много встроенных в Windows способов регистрации, все они просты, вам нужно всего лишь перечислить ваш файл, например. в разделе RegisterDlls INF. Это просто вызов функций DllRegisterServer и DllUnregisterServer