Я не думаю, что требование 300 dpi для публикации относится к таким вещам, как скриншоты, где данные по сути являются пиксельными. Он предназначен для таких вещей, как графики, которые можно и нужно генерировать в векторном формате.
Просто получите наилучшие результаты и используйте скриншоты только для абсолютно необходимых вещей, а не, например, для ввода-вывода из командной строки или для графиков результатов.
Если окончательные изображения отображаются сглаженными и размытыми, либо найдите параметры в вашем PDF-редакторе, чтобы предотвратить это, либо вручную увеличьте изображение до значения, кратного его первоначальному размеру, чтобы сохранить исходную резкую пикселизацию.