Здесь много возможностей, поскольку сообщение является общим для невозможности установить соединение,
После того, как Сандра упомянула, что проверка экземпляра на самом деле запущена и работает.
Проверьте правильность правил переадресации портов.
Проверьте настройки sapgui, обычно номер экземпляра - это то, что, по моему мнению, является наиболее неправильным.
Удачи.