Я не знаю ни одного способа контроля размера очереди (если не использовать отладчик ядра и унижение внутренней структуры данных Win32Thread на TIB + [0x40], которую я вряд ли рекомендую).
В целях отладки, чтобы проверить, заполнена ли очередь при появлении ошибки, попробуйте выполнить PostThreadMessage. Если он полон, вызов должен завершиться неудачно с GetLastError () == 0x718. (Недостаточно квоты для обработки этой команды.)