Решение простое, если вы предполагаете эллипсоидальную поверхность Земли.Если вам нужно использовать цифровую модель местности (DTM), все станет намного сложнее.Например, ваш объект может быть виден на изображении, но скрыт в DTM из-за различных источников ошибок.Далее я предполагаю, что вы работаете с эллипсоидом.
Вкратце, вам нужно сделать обратный проект вершин ограничивающей рамки изображения, получив четыре вектора (луча) в координатах камеры.Затем вы преобразуете их в ориентированные на Землю координаты Земли (ECEF) и решаете для пересечения лучей с эллипсоидом WGS-72 (или WGS-84), как объяснено здесь .
Я рекомендую использовать библиотеку nvector , чтобы помочь с такого рода вычислениями.Вы не указали язык, с которым работаете, но есть порты nvector для многих распространенных языков, включая Python и Matlab.