Глядя на ваши примеры изображений, я полагаю, вы ищете алгоритм обработки изображений, который находит края вашего изображения (в вашем случае, границы линии плана земли).
Посмотрите Алгоритм обнаружения острых кромок , который может хорошо подойти для этой задачи. Учебник с примером реализации в python можно найти здесь .