Добавление открытого ключа является решением. Для генерации ключей ssh: https://help.github.com/articles/generating-ssh-keys имеет пошаговые инструкции.
Однако проблема может сохраняться, если ключ не был сгенерирован правильно.
Я нашел это тоже полезной ссылкой: https://help.github.com/articles/error-permission-denied-publickey
В моем случае проблема заключалась в том, что я генерировал ssh-ключ без использования sudo, но при использовании команд git мне нужно было использовать sudo.
Этот комментарий в приведенной выше ссылке «Если вы генерируете SSH-ключи без sudo, то при попытке использовать команду типа sudo git push вы не будете использовать сгенерированный вами SSH-ключ». помог мне.
Итак, решение состояло в том, что мне пришлось использовать sudo как с командами генерации ключей, так и с командами git.
Или для других, когда им нигде не нужен sudo, не используйте его ни в одном из двух шагов. (генерация ключей и команды git).