Я собираюсь пойти дальше и предположить, что на вашем удаленном экземпляре Ubuntu не установлен X-сервер - то есть вы используете версию командной строки.
Загрузите и установите Putty , и вы сможете подключиться к своему экземпляру AWS с помощью ключей SSH, которые вы изначально установили.