Минимальные требования для решения этой проблемы:
1) изучение C (по крайней мере, до среднего уровня)
при условии, что вы не собираетесь декодировать JPEG или любой другой формат изображенияВы с нуля:
2) узнаете, как использовать библиотеки в C.
3) найдите библиотеку, которая позволяет вам читать и записывать формат файла изображения под рукой
4) реализовать алгоритм и применить его к данным изображения