Я предлагаю вам начать исследования. Переполнение стека - не лучшее место, чтобы задавать такие обобщенные вопросы.
1) Все, что вы можете делать на любом языке программирования, возможно в Matlab, вы ограничены тремя вещами:
а) Как быстро вы хотите, чтобы это работало
б) сколько кода вы хотите сделать
в) сколько вашей памяти собирается съесть Матлаб
2) Если я правильно понимаю ваш вопрос, вы: Ищете соответствие изображению, которое помещается внутри увеличенного изображения
Решение: переместите ваше изображение в другое, вычислите разницу между всеми пикселями. Набор пикселей, ближайший к желаемому изображению, должен быть нулевым.