No la puedes cambiar en "caliente".

Cuando inicia detecta la resolucion por Hdmi.

Si solo la usas por vnc edita el config.txt y activa las opciones para predeterminar una resolucion que tu elijas.

Son las que pone framebuffer with y cosas asi. Has de quitar la almohadilla # para activarlas.

En los foros de raspberry esta toda la informacion que hay acerca del config.txt que es muchisima.