Используйте video=
опцию загрузки :
video=1024x768@30
(В документации Linux говорится о старых драйверах на основе кадрового буфера, но во всех современных системах этот параметр обрабатывается драйверами KMS / DRI, точно так же, как установка режима, выполняемая Xorg или различными компоновщиками Wayland.)
Вам, скорее всего, все равно придется установить его через GNOME.