если я установил качество принтера = DMRES_HIGH затем также печать в обычном режиме.
Возможно, немного глупый вопрос взамен, но с учетом описания MSDN на DEVMODE , вы уверены, что ваш драйвер / принтер поддерживает настройку таким образом?
Драйвер принтера поддерживает только те элементы структуры DEVMODE, которые соответствуют технологии принтера.