Можно ли рассчитать объемы выемки и насыпи в Geoserver из источников DEM? Считывание значения каждого пикселя и умножение его на размер пикселя в области потребует слишком много запросов.
Нет, в GeoServer это невозможно. Однако ничто не помешает вам написать функцию WPS, чтобы сделать это возможным.