Пиксели не будут иметь одинаковую длину, это зависит от того, какую область земного шара вы проецируете.Меркатор сохраняет углы, а не длины.
http://en.wikipedia.org/wiki/Mercator_projection
Посмотрите на карту - области вокруг полюсов увеличены по сравнению с экватором.В зависимости от того, что вы хотите сделать, вам лучше использовать стандартизированную проекцию, например UTM.Вы должны проверить, какая проекция используется в той части мира, откуда ваши карты.
Другой способ - применить обратную проекцию к двум вашим пикселям, чтобы получить географические координаты и измерить расстояние до большого кругамежду ними.В Википедии есть больше информации об этом, но обычно в ней есть немного математики.