No, esto no funcionará. Puede tener varias versiones de OS X en una máquina, pero sólo puede instalar más nuevo que la que venía preinstalada. Por ejemplo, si tu máquina venía con 10.6.4, no puedes ejecutar 10.6.3 o anteriores.
Cuando Apple lanza un nuevo hardware, los controladores para ese hardware se incluyen en una compilación especial de OS X que sólo viene en ese modelo. No se añaden a OS X en general hasta la siguiente versión puntual. (Eso significa que los controladores para la máquina hipotética de la que estoy hablando no se añadirían hasta la versión 10.6.5).
Apple no publica los controladores como software independiente, lo que hace imposible instalar una versión de OS X anterior a la que trae tu Mac. Si pones el disco de instalación de una versión anterior en la unidad, no arrancará o se negará a instalarse.
Sin embargo, puedes ir en la otra dirección. Si tienes un Mac antiguo con 10.5, puedes usar la Utilidad de Discos para hacer otra partición (HFS+ Journaled), luego arrancar el DVD de instalación de 10.6 e instalarlo en esa partición. Para cambiar entre las dos después de la instalación, mantén pulsada la tecla alt cuando arranques. (También puedes seleccionar la partición de arranque por defecto a través del panel Unidad de arranque en Preferencias del Sistema dentro de cualquiera de las dos instalaciones de OS X). Boot camp es no necesario para ello. Boot Camp sólo es necesario para instalar sistemas operativos que no sean Apple, como Windows y Linux.