Поскольку образ сервера Ubuntu является минимальной установкой без присутствия окружения рабочего стола, сначала необходимо установить графический интерфейс для Ubuntu.
Чтобы сделать это на сервере Ubuntu 16.04, просто используйте команду:
sudo apt install ubuntu-desktop
После этого вы должны получить приглашение на вход в сеанс GUI. Если этого не произошло, сначала перезагрузите компьютер.
После того, как вы настроили среду рабочего стола, вам следует переустановить virtualbox:
sudo apt install --reinstall virtualbox
Или, если у вас нет пакета, скачайте .deb снова и:
dpkg -i <.deb_file>
Который, скорее всего, потерпит неудачу из-за отсутствия зависимостей, в этом случае вам просто нужно выполнить:
sudo apt install -f
И это должно быть так.