No estoy muy seguro de cómo funciona esto con una pantalla XDR y no tengo uno en el edificio para probar - pero, el video de youtube es o bien en Rec709 o sRGB, ambos de los cuales son 'no-HDR' formatos.
Estás intentando ampliar a toda la gama XDR algo que simplemente no tiene esa gama de colores. Prueba con las gamas más bajas, 601, 709 y sRGB: es más probable que se parezcan más a lo previsto.
A modo de ejemplo, esto es lo que debe en una pantalla y un flujo de trabajo totalmente calibrados. Tu gama P3 original ya está "sobrecalentada".
Esto se prueba en una pantalla calibrada para Adobe RGB, que es una gama más pequeña que P3, pero lo suficientemente amplia como para que pueda ver la mayor parte de P3. Aquí tengo una pantalla P3, pero no está calibrada [aunque una comprobación rápida muestra una amplia concordancia].
Captura de pantalla de tu vídeo para que podamos comparar directamente, utilizando el mismo perfil para ambos.
Ambas imágenes son ahora sRGB, con perfil incrustado, por lo que tenemos igualdad de condiciones para la comparación.
Por lo general, la pantalla debería tener un único perfil [preestablecido] en el que debería ser capaz de asignar automáticamente los colores de forma correcta. Soy consciente de que esto va a ser ligeramente diferente para XDR, pero también sé que el ajuste de gama extendida 1600 nit sólo está destinado a trabajar en imágenes verdaderamente 'HDR'.