Al seleccionar la configuración de la extrema derecha para la resolución dentro de las Preferencias del Sistema, parece que está incrementando la resolución de la pantalla a un valor superior a 2880x1800. Esto es exactamente por lo que estás viendo una imagen con mayores dimensiones.
Lo que la configuración de la pantalla le permite hacer es escalar las resoluciones para que las palabras y las imágenes aparezcan todas más grandes o más pequeñas en la pantalla, pero todas encajan dentro de la pantalla física (a través de la escala).
Dicho esto, cualquier resolución escalada puede no ofrecer la misma calidad de imagen que el ajuste "Mejor (Retina)", dependiendo de la aplicación, etc.
Además, el hecho de que el rendimiento de los gráficos varíe al escalar las resoluciones indica que el ordenador está utilizando los recursos del sistema para computar/ajustar/escalar lo que proyecta la pantalla. Así es como la resolución parece ser más, o menos, de lo que el hardware debería soportar.
Cada resolución alternativa será más alta o más baja en dimensión, pero escalada hacia abajo/arriba para ajustarse a la ventana de visualización.
