Я исправил свою проблему. У меня была проблема с разрешениями. Мой удаленный сервер использует Dreamhost, поэтому они могли настроить сервер так, чтобы открытый / закрытый ключи работали так. Это то, что я сделал, YMMV:
Изменили разрешения в домашней папке каждой из моих учетных записей, чтобы это не работало, до 751. Я предполагаю, что вашей настройке нужно по крайней мере это, если не сильнее. Это сработало для меня ... но я также сделал эти другие шаги, которые вы можете попробовать.
Изменены разрешения всего в .ssh на 600.
Перешли на использование нового ключа с DSA вместо RSA. Это было излишним, но я зашифровал закрытый ключ, поэтому теперь он запрашивает пароль, прежде чем я смогу использовать закрытый ключ. Это всего лишь мера безопасности. Mac OS X позволяет мне сохранить пароль, чтобы это происходило прозрачным образом (т.е. мне не нужно вводить пароль как таковой).