No sé mucho en términos de detalles, pero estoy bastante seguro de que el proceso básico implica la construcción de estructuras de datos de volumen paralelo y luego cambiar cuál se utiliza.
Para entender lo que esto significa, hay que saber un poco sobre cómo un sistema de archivos almacena sus archivos en el disco. De forma algo simplificada, hay dos tipos de datos almacenados: el contenido real de los archivos se almacena como datos en bruto, y luego hay una base de datos adicional que mantiene un registro, para cada archivo, de donde se almacenan los datos brutos de ese archivo en particular (así como los "metadatos", como el nombre del archivo, los permisos, la hora de la última modificación, etc.).
El contenido de los archivos en bruto es prácticamente el mismo entre los diferentes formatos de volúmenes (excepto para los volúmenes encriptados), pero los metadatos de la base de datos serán diferentes entre HFS+ vs. APFS vs. FAT vs. lo que sea.
La mayor parte del contenido del disco es (generalmente) el contenido bruto del archivo, ya que los metadatos suelen ser mucho más pequeños que el contenido real del archivo. Esto significa que al convertir de un formato a otro, la mayor parte del contenido del volumen no necesita cambiar; sólo la base de datos que almacena las ubicaciones de los archivos y los metadatos necesita ser convertida. Así que lo que puedes hacer es construir una base de datos de nuevo formato en el espacio libre del volumen (copiando y convirtiendo el contenido del de formato antiguo), y luego simplemente decir "ok, usa el nuevo ahora". (y marcar el antiguo como espacio libre en el nuevo formato).
Este es el punto de vista simplificado; en la práctica, estoy seguro de que hay muchas complicaciones y detalles complicados que hay que tratar. Pero estoy seguro de que esta es la idea básica.
Por cierto, hay un truco similar que a veces se utiliza (incluso por Apple) para hacer discos multiformato (o "híbridos"). Por ejemplo, el software de grabación de CD/DVD y de creación de imágenes de Apple puede crear discos que son válidos como volúmenes HFS+ (legibles en Macs), y también volúmenes ISO 9660 válidos (legibles en una amplia variedad de otros sistemas operativos que no distinguen HFS+ de un agujero en el suelo). Almacena una copia del contenido de cada archivo, y dos bases de datos diferentes (una en formato ISO y otra en HFS+), y lo configura para que los diferentes sistemas operativos vean el que entienden y puedan leer el volumen.