Вы можете получить HANDLE для кучи CRT, используя _get_heap_handle, а затем вызвать HeapCompact для него. Не уверен, что это поддерживается / стабильно, так как я сам не пробовал. Я полагаю, что вы захотите вызвать HeapCompact в сериализованном режиме, чтобы иметь какие-либо шансы на эту работу.
Если вы собираетесь столкнуться с этой проблемой, просто вызовите HeapSetInformation для дескриптора (для документов MDSN в _get_heap_handle) и позвольте встроенному LFH обрабатывать сжатие для вас.