Supongo que quieres que la pregunta se responda para las aplicaciones "estándar" de MacOS, y no sólo para un subconjunto muy específico, como por ejemplo sólo el software basado en X11:
Soporte incorporado
El único servidor de control remoto integrado en MacOS se basa en el protocolo VNC, que esencialmente transfiere una imagen gráfica al cliente (a diferencia, por ejemplo, de X11, donde es posible transferir meras "descripciones" en lugar de sus resultados en mapa de bits).
Sin embargo, el servidor incorporado no se limita a la "duplicación" como pareces indicar. Por ejemplo, con el cliente de Escritorio Remoto de Apple, puedes habilitar algo llamado "Modo Cortina". Básicamente, esto permite que la pantalla del servidor sólo muestre un mensaje indicando que el ordenador está bloqueado, mientras que el cliente remoto puede interactuar con la interfaz de usuario.
El servidor incorporado soporta una configuración de doble monitor, por lo que es posible controlar remotamente monitores construidos en un Mac con dos monitores. Sin embargo, no creo que sea posible configurar dicha configuración "virtualmente" (es decir, con hardware).
Una forma de resolver tu caso de uso de un servidor Mac sin cabeza con doble pantalla es comprar dongles HDMI falsos que imitan una pantalla conectada. Añade dos de ellas al portátil para que veas 3 pantallas en tus Preferencias del Sistema. Conecta el portátil a un cargador, para que no entre en reposo, y deberías poder cerrarlo y que siga funcionando con 2 pantallas "virtuales" mientras la pantalla interna está apagada. Si te conectas remotamente a través de VNC podrás controlar las aplicaciones en esas dos "pantallas".
Soluciones de terceros
Si buscas soluciones de terceros, sí es posible ejecutar un servidor RDP en MacOS:
Una solución de código abierto como Xrdp probablemente no es lo que quieres, ya que no permite controlar remotamente las aplicaciones ordinarias de MacOS.
Existe una alternativa en NuoRDS con su Servidor de terminales NuoRDS que añaden un servidor RDP a MacOS. Son compatibles con MacOS 10.12 y posteriores (incluido MacOS 12 Monterey), y permiten un modo sin espejo. Por ejemplo, permiten que varios usuarios se conecten al mismo Mac remoto al mismo tiempo mientras trabajan con diferentes aplicaciones. Sin embargo, por lo que veo, no describen en su documentación si se pueden tener 2 pantallas virtuales en el Mac remoto.
Otra alternativa es buscar productos de Aqua Connect . Su Servidor Ignision añade un servidor RDP a MacOS. También tienen un Servidor de terminales que funciona para MacOS 10.9 y anteriores (es decir, las versiones recientes de MacOS no son compatibles). Desafortunadamente, parece que no ha habido ningún desarrollo real en el software durante varios años, por lo que podría no funcionar en absoluto en MacOS recientes. En la lista se menciona la posibilidad de trabajar en un modo sin espejo, pero no se refiere específicamente a la posibilidad de utilizar más pantallas que las que tiene el ordenador remoto.
No utilizo las soluciones NuoRDS o Aqua Connect, así que no puedo comprobar si la función específica de tener 2 pantallas virtuales en el Mac remoto es compatible. Aconsejaría ponerse en contacto con su servicio de atención al cliente para obtener una aclaración antes de comprar una licencia.