Способ 1 - использовать те же ключи на серверах:
Преобразуйте ключи в формат openssh и загрузите закрытые ключи на серверы. Когда вы отправляетесь по ssh на хост назначения, укажите файл закрытого ключа:
ssh -i mykey.pem private.ip.of.other.server
Способ 2 - Создание новых ключей
На каждом сервере запускаем:
ssh-keygen
Нажмите Enter, введите Enter. У вас будет два файла:
.ssh/id_rsa .ssh/id_rsa.pub
На сервере A кошка и скопировать в буфер обмена открытый ключ:
cat ~/.ssh/id_rsa.pub [select and copy to your clipboard]
SSH на сервер B, и добавьте содержимое этого файла в его авторизованный файл:
cat >> ~/.ssh/authorized_keys [paste your clipboard contents] [ctrl+d to exit]
Теперь SSH с сервера A:
ssh -i ~/.ssh/id_rsa private.ip.of.other.server