Стандартные алгоритмы выпуклого корпуса не побеждены переносом координат на поверхности Земли, а более фундаментальной проблемой. Поверхность сферы (давайте забудем о не совсем сферичности Земли) не является евклидовым пространством, поэтому евклидова геометрия не работает, а процедуры выпуклой оболочки предполагают, что базовое пространство является евклидовым (покажите мне то, что не т, пожалуйста) не будет работать.
Поверхность сферы соответствует понятиям эллиптической геометрии , где линии - большие круги, а антиподальные точки считаются одной и той же точкой. Вы уже начали испытывать проблемы, возникающие при попытке применить евклидову концепцию выпуклости к эллиптическому пространству.
Один из открытых для вас подходов - принять определения геодезической выпуклости и реализовать процедуру геодезической выпуклой оболочки. Это выглядит довольно волосато. И это может не дать результатов, которые соответствуют вашим (как правило, евклидовым) ожиданиям. Во многих случаях для 3 произвольных точек выпуклая оболочка оказывается всей поверхностью сферы.
Другим подходом, принятым навигаторами и картографами на протяжении веков, было бы проецирование части поверхности сферы (части, содержащей все ваши точки) в евклидово пространство (которое является предметом картографических проекций, и я выиграл » я не буду ссылаться на обширную литературу по этому вопросу) и выяснить выпуклую оболочку спроецированных точек. Спроецируйте интересующую вас область на плоскость и отрегулируйте координаты так, чтобы они не переворачивались; Например, если вы заинтересованы во Франции, вы можете отрегулировать все долготы, добавив 30 градусов, чтобы вся страна была скоординирована по + ve числам.
Пока я пишу, идея, предложенная в ответе @ Li-aung Yip об использовании алгоритма 3D с выпуклой оболочкой, кажется мне ошибочной. Трехмерная выпуклая оболочка множества точек поверхности будет содержать точки, ребра и грани, которые лежат внутри сферы. Их буквально не существует на 2D-поверхности сферы, и они лишь изменяют ваши трудности с борьбой с не совсем правильной концепцией в 2D на совершенно неправильной в 3D. Кроме того, я узнал из статьи в Википедии, на которую я ссылался, что замкнутое полушарие (то есть то, которое включает его «экватор») не является выпуклым в геометрии поверхности сферы.