Кольца - это терминология архитектуры процессора x86, в которой процессор может работать в одном из четырех различных режимов работы, называемых «уровнями приоритета, пронумерованными от нуля до трех». При нулевом уровне приоритета разрешается выполнять любые операции с ЦП, а при уровне приоритета триявляется самым ограниченным - есть некоторые инструкции, которые не могут быть выполнены на уровне приоритета 3. Ref .
Внедрение DLL не относится к какой-либо операционной системе.