Это не операционная система, которая вызывает взаимоблокировку.Да, ваша трассировка стека покажет, что она блокируется на KiFastSystemCallRet () внутри ntdll.dll.С трассировкой стека, указывающей на инструкцию RET после SYSENTER.Но он просто делает то, что вы просили сделать.
Используйте окно Debug + Windows + Threads, чтобы увидеть, что делают ваши потоки.Классический сценарий взаимоблокировки состоит в том, что один из потоков получил объект синхронизации и выполняет блокировку.Объект синхронизации, который пытается получить другой поток.Это одна из самых распространенных проблем с потоками.