rpm - это двоичный пакет для RedHat-подобных систем. Что вы подразумеваете под вручную?
если вы хотите собрать его из исходного кода: загрузите последний файл tar.gz с http://ftp.gnu.org/non-gnu/cvs/source/stable/ и прочитайте файл INSTALL
если вы хотите установить двоичный файл, найдите правильный пакет .deb для вашего дистрибутива Ubuntu ( http://packages.ubuntu.com/search?keywords=cvs )