Возможно, в вашем пользовательском каталоге нет XAuthority до тех пор, пока вы не войдете в систему. Есть некоторая информация о том, где можно найти сайт документации по x11vnc. XAuthority существует только для root, в каталоге, который зависит от диспетчера отображения и версии Ubuntu, но есть несколько хороших подсказок.
В настоящее время я пытаюсь автоматически запустить VNC-сервер в Kubuntu 16.04, и мой файл авторизации находится по адресу:
/var/run/lightdm/root/:0