То, что вы просите сделать, это нестандартный вариант использования. Маловероятно, что любая библиотека с открытым исходным кодом будет иметь эту встроенную функцию. Для получения необходимых данных не требуется серьезных изменений. Сколько усилий вы готовы предоставить и насколько вы понимаете стандарт JPEG и используемую библиотеку?
Если запрошенный вами прямоугольник находится на границах MCU, тогда будет относительно просто изменить цикл декодирования для копирования интересующих вас данных о коэффициентах. Я не знаком с библиотеками JPEG с открытым исходным кодом, но в моем собственный кодек JPEG, необходимые изменения будут тривиальными.