VNC es una bestia interesante en OS X. En Lion, OS X finalmente ganó la posibilidad de tener sesiones verdaderamente virtuales, lo que significa que no se muestran en la consola. Esto se logra habilitando VNC, y entrando como un usuario que no está conectado en la consola. Ese nuevo usuario tendrá una sesión privada en la que trabajar, y el usuario de la consola irá sin interrupciones.
Si no estás seguro de lo que quiero decir con "consola", la consola es la única sesión que puede utilizar un usuario conectado directamente al ordenador a través del teclado/ratón/monitor. Es lo que comúnmente se denomina sesión "de consola" o "física".
Tenga en cuenta que en todas las versiones anteriores de OS X, el inicio de sesión como usuario permitido sólo podía ponerle en la sesión de consola, posiblemente colisionando con un usuario de consola si estaban trabajando activamente en el sistema al mismo tiempo.
En cualquier otro sistema operativo, puedes establecer una sesión VNC privada utilizando casi cualquier resolución que quieras, dentro de un cierto ámbito de viabilidad. Lamentablemente, esto todavía no es el caso en OS X. VNC todavía parece engancharse a las capacidades físicas del sistema, tal vez esto sucede porque la tarjeta de vídeo se utiliza para renderizar la sesión de escritorio incluso cuando la estás utilizando de forma remota. Renderizar las animaciones de OS X es muy intensivo, por lo que descargarlas a la tarjeta de video y liberar tiempo de CPU general es una situación ideal para casi todo el mundo.
¿Y la respuesta? No creo que se pueda. Puedes bajarla a través de las Preferencias del Sistema como siempre, pero la máxima resolución que obtendrás será la que soporte tu tarjeta de vídeo.