Вы можете рассматривать это как проблему с подстрокой, где символы в алфавите - это пиксели, а ваша строка - это изображение. Вам также понадобится использовать специальный символ, аналогичный разрыву строки, для обозначения границы изображения.
Алгоритм, который вы хотите, находится в Википедии: http://en.wikipedia.org/wiki/Knuth%E2%80%93Morris%E2%80%93Pratt_algorithm
Обновление: Если вы не можете предположить, что изображение идеально содержится внутри другого, пиксель за пикселем, тогда этот подход не будет работать.
Существуют и другие, более сложные алгоритмы, основанные на той же концепции динамического программирования, что и выше, но я не буду вдаваться в них, если в этом нет необходимости.