No... estoy bastante seguro de que no puedes hacer esto.
Los iconos que no están "clavados" en el muelle para facilitar el acceso se rellenan de izquierda a derecha en el orden en que se lanza la aplicación correspondiente.
Lo que hay en el muelle se especifica en el archivo de preferencias del muelle y en los ajustes administrados (MCX) si la máquina está conectada a un servidor de Open Directory.
Si una aplicación aparece en una de estas ubicaciones de configuración, su icono será aparecen en el banquillo, tanto si la aplicación se está ejecutando como si no. Si no está en una de estas ubicaciones de configuración, el icono de la aplicación _no_ aparecerá en el dock hasta que se inicie.
Es posible, supongo que hay una utilidad de terceros que es capaz de lo que usted está pidiendo, pero no es algo que el Dock de acciones en OS X pueda hacer.
Lo siento... Seguro que sería genial.
¿Has pensado en usar el auto-escondite en el muelle...?
Configura tus iconos donde quieras y luego establece el acoplamiento para que se oculten automáticamente. Entonces no lo verás en absoluto, hasta que pases el ratón por el borde de la pantalla... No es exactamente lo mismo... tendrías que lidiar con el desorden de iconos mientras intentas cambiar de programa...