С Ubuntu 18 мы столкнулись с подобной проблемой при попытке установить postgresql-9.6-postgis-2.5. Нам нужно было установить экспериментальную версию 3.7, чтобы она заработала.
libgeos-3.7.0_3.7.0-1_bionic0_amd64 libgeos-c1v5_3.7.0-1_bionic0_amd64.deb
https://launchpad.net/~ubuntugis/+archive/ubuntu/ubuntugis-experimental/+build/15675841
Однако я не уверен, что вы можете получить это за xenial.
Надеюсь, это поможет, спасибо.
Обновление: Теперь у нас есть обновленная версия libgeos в бионическом репо, надеюсь, что обновленная версия была выпущена и для xenial, спасибо.
apt search libgeos-3.7
Sorting... Done
Full Text Search... Done
libgeos-3.7.1/bionic-pgdg 3.7.1-1~pgdg18.04+1 amd64
Geometry engine for Geographic Information Systems - C++ Library
libgeos-3.7.1-dbgsym/bionic-pgdg 3.7.1-1~pgdg18.04+1 amd64
debug symbols for libgeos-3.7.1