¿Es OS X Server un sistema operativo o un conjunto de servicios?

OS X Server es principalmente una interfaz. OS X contiene (casi - el correo y las bases de datos son las principales excepciones) todo el software que necesitarás, así que si quieres configurar las cosas desde la línea de comandos no habrá ninguna diferencia. Sin embargo, haz un balance de tu tiempo para configurar la línea de comandos contra los 20 dólares que cuesta Server.app.

Server.app es bastante exigente con los diseños de los archivos de configuración - si quieres hacer tus propios ajustes te recomiendo que hagas un archivo separado y uses una directiva de inclusión. El comportamiento varía desde ningún problema hasta que el servicio no se inicie hasta que Server.app se cuelgue (por lo que no se puede reiniciar)