En Ubuntu/Windows cuando tengo una ventana de gvim abierta simplemente escribo :!gvim filename
para abrir una nueva ventana.
En OSX esto no hace nada.
Creo que puede tener que ver con que a OSX no le gustan las instancias múltiples del mismo programa, pero me permite abrir todas las ventanas de gvim que quiera manualmente desde la terminal.