Ключи должны быть одинаковыми, но кодироваться по-разному.
Пара ключей RSA состоит из нескольких чисел, секретный ключ - все эти данные, открытый ключ - тот же, с удаленной частной частью.
Числа могут быть записаны в другом порядке, закодированы в разных форматах. Также ключи могут быть зашифрованы для хранения с помощью пароля (не в этом случае). Таким образом, файлы с одинаковыми ключами могут выглядеть совершенно по-разному.
PEM-формат (формат с BEGIN PUBLIC KEY
и данными Base64) более распространен для общих ключей, поэтому лучше его использовать.
Обновление:
Формат PEM - это DER64 в кодировке base64 с верхним и нижним колонтитулами. DER, в свою очередь, является двоичным представлением ASN.1. Но SSH использует формат кодирования с использованием разных ключей (RFC4716)
Пример:
% ssh-keygen -m PEM -t rsa -N '' -b 1024 -f ./rsa
% cat rsa.pub
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAAAgQDRNFYxsULk6x90T0EE8iS3skfJJ407ef3WJJClre0k2sLJUJX6/Xbc3ObxNjixXcgIXp2H4oVOnNpujqFF/XM81zlpLjGT/4igtK1FjIHIaFyRheGuwplgwCkXlxAe/oH1Bb4nFXlD/kORmGgSfSE9BpH+HQU3IzyU1i0X9K828Q== vasfed@Vasiliys-MacBook-Pro.local
% ssh-keygen -e -m PEM -f ./rsa.pub
-----BEGIN RSA PUBLIC KEY-----
MIGJAoGBANE0VjGxQuTrH3RPQQTyJLeyR8knjTt5/dYkkKWt7STawslQlfr9dtzc
5vE2OLFdyAhenYfihU6c2m6OoUX9czzXOWkuMZP/iKC0rUWMgchoXJGF4a7CmWDA
KReXEB7+gfUFvicVeUP+Q5GYaBJ9IT0Gkf4dBTcjPJTWLRf0rzbxAgMBAAE=
-----END RSA PUBLIC KEY-----
% ssh-keygen -e -m PKCS8 -f ./rsa.pub
-----BEGIN PUBLIC KEY-----
MIGfMA0GCSqGSIb3DQEBAQUAA4GNADCBiQKBgQDRNFYxsULk6x90T0EE8iS3skfJ
J407ef3WJJClre0k2sLJUJX6/Xbc3ObxNjixXcgIXp2H4oVOnNpujqFF/XM81zlp
LjGT/4igtK1FjIHIaFyRheGuwplgwCkXlxAe/oH1Bb4nFXlD/kORmGgSfSE9BpH+
HQU3IzyU1i0X9K828QIDAQAB
-----END PUBLIC KEY-----
Выше 3 разных кодировки одного и того же ключа, здесь ASN-декодированные версии последних двух (через https://lapo.it/asn1js):
PEM, минимальный минимум (модуль и показатель степени, без метаданных):
SEQUENCE (2 elem)
INTEGER (1024 bit) 146908353891476107599563957703741990254320034409224509383359005248419…
INTEGER 65537
PKCS8, здесь мы видим точно такие же числа, но на этот раз с некоторыми метаданными:
SEQUENCE (2 elem)
SEQUENCE (2 elem)
OBJECT IDENTIFIER 1.2.840.113549.1.1.1 rsaEncryption (PKCS #1)
NULL
BIT STRING (1 elem)
SEQUENCE (2 elem)
INTEGER (1024 bit) 146908353891476107599563957703741990254320034409224509383359005248419…
INTEGER 65537