Посмотрите на этот ответ , чтобы найти все спецификации, которые вам нужно прочитать, а затем прочитайте их.Несколько раз.Спереди к спине. Затем начинайте реализовывать, часто проводя тестирование с использованием множества примеров файлов jpeg.
Не мешало бы узнать немного о преобразованиях Фурье, а затем о дискретном косинусном преобразовании, а такжекак работают коды Хаффмана.Хотя из спецификаций вы можете получить большую часть того, что вам нужно.