Обычно версия Ruby по умолчанию в Ubuntu 14.04 будет 1.9.1. Я не знаю, что не так с вашей системой в этом отношении.
Если вы хотите указать конкретную версию Ruby, просто используйте полное имя:
gem1.9.1 install mysql
Кроме того, вы можете использовать ruby1.9.1
для явного запроса интерпретатора Ruby 1.9.1.