Если вы будете гуглить ваши вопросы, вы найдете объяснение в первых ссылках. Как например здесь
Закрытый ключ должен знать только вы.
Закрытый ключ хранится у клиента и должен храниться в секрете.
Открытый ключ вы ставите на все устройства, где вам необходимо пройти аутентификацию.
Связанный открытый ключ может свободно распространяться без каких-либо негативных последствий.
И они также предлагают краткое объяснение того, как работает аутентификация.
Когда клиент пытается аутентифицироваться с использованием ключей SSH, сервер может проверить клиент на наличие у него закрытого ключа. Если клиент может доказать, что ему принадлежит закрытый ключ, то создается сеанс оболочки или выполняется запрошенная команда.
Редактировать:
Кажется, что есть другая пара ключей, созданная во время ssh-согласования алгоритмом Диффи-Хеллмана, которая фактически используется для шифрования трафика. Прочитайте эту ветку для более полного объяснения.
Еще несколько объяснений здесь