¿Cómo se instala OSX de forma limpia sin formatear la unidad?

No hay una manera fácil de hacerlo. No se puede hacer una instalación limpia y mantener los archivos porque esos archivos viven como parte del SO. El SO sabe dónde están, qué son, los permisos, etc. Una instalación limpia consistiría en eliminar todas las partes del SO e instalar un nuevo SO y los enlaces a esos archivos, donde no sabría que necesita esos archivos o lo que son.

También puedes probar:

• Crear una nueva partición (digamos de 200GB)
• Instala allí una copia limpia de OS X
• Copie 100GB de sus archivos a la nueva partición
• Elimine exactamente esos archivos de la partición antigua
• Reducir la partición antigua y ampliar la nueva
• Y repite los últimos 3 pasos hasta que tengas todos los archivos

Pero la mejor solución sería:

• Comprar un HD externo
• Copiar todos los archivos en el exterior
• Reinstalar OS X
• Copiar archivos de nuevo

Lo único que puedo sugerir es arrancar en la partición de recuperación ( ⌘ Cmd + R ), y hacer el comando en el Terminal ( Utilities > Terminal ):

sudo rm -r /folder_name

En todas las carpetas que no quieras conservar.

(Ten cuidado cuando apuntes a tu carpeta, SIN RECUPERACIÓN posible. Consulte manual para estar seguros)

Estoy bastante seguro de que la instalación no borrará los datos de las carpetas que guardaste.

O también puedes intentar hacer otra partición en tu disco con la utilidad de discos, luego instalar OS X en la nueva partición, y eliminar todos los archivos de la antigua instalación de OS X.

Si se trata de preservar los archivos, el formato es no tu respuesta. Sugiero una instalación "en el lugar" comprar simplemente descargar el instalador de El Capitan (o el sistema operativo aplicable) de la Mac App Store. Esto descargará el instalador y usted puede simplemente volver a instalar el sistema operativo. Dejando toda su carpeta de inicio y archivos adicionales intactos. Esto se puede lograr mediante la creación de un instalador de medios utilizando el terminal. Usted puede referirse a este Apple soporte artículo para ver el paso a paso.