Я столкнулся с той же проблемой после миграции моего Mac тоже (оба MacOS High Sierra). После запуска
sudo mv /usr/local/include /usr/local/include_old
а потом
rvm install 2.5.0 --with-openssl-dir=/usr/local/opt/openssl/bin/openssl
все стало работать нормально.