Estudio de caso:
Mi Apple Studio Display de 5K tiene el doble de densidad de píxeles (218ppi) que mi antiguo Thunderbolt Display de 2K (109ppi). Ambos son de 27 pulgadas.
1000 x 1000 píxeles en el display Thunderbolt (2560 x 1080) sería un cuadrado de 9.2 pulgadas en la pantalla.
En el Retina Studio Display, ese mismo cuadrado de 1000 píxeles sería la mitad del tamaño (un cuadrado de 4.6 pulgadas).
Si dibujara un área de captura de pantalla de 9.2 pulgadas en mi Retina Display, abarcaría 2000 x 2000 píxeles, el doble que el display Thunderbolt para el mismo objeto/área de pantalla.
La "escala Retina 2x" significa que utiliza el doble de píxeles (en cada eje) para mostrar el mismo objeto/área que el display no Retina.
Conclusión:
Cuando tomas una captura de pantalla, obtienes todos los píxeles que están en tu pantalla. Si tu pantalla tiene solo 12 píxeles, obtendrás una imagen de 12 píxeles. Si tu pantalla tiene 6K píxeles, obtendrás una imagen de 6K píxeles.
Si deseas que una imagen tenga una resolución más alta que tu pantalla, entonces no podrás lograrlo con una captura de pantalla. La respuesta dependerá de qué tipo de imagen es, qué aplicación la está generando y cuántos datos hay en ella.