¿cómo ejecutar open -n nombre de la aplicación desde la línea de comandos?

Te falta la línea inicial de tu archivo script: el "shebang".

Pon lo siguiente en tu archivo script:

#!/bin/sh
CX\_LICENSE=LS
open -n /Applications/Inspire\\ Designer\\ 10.0\\ GA/Inspire\\ Designer.app/

Esto debería funcionar - el archivo que tenías antes no tenía suficiente información para decirle al sistema operativo cómo para ejecutar su script. Usted quiere ejecutar un conjunto de comandos de shell, por lo que necesita decirle al sistema operativo que es un script de shell, lo que se hace incluyendo la etiqueta #!/bin/sh como la primera línea del script.

Ver esta respuesta en Stack Overflow para más información.

Actualización

Sólo para confirmar, acabo de probar este script y funciona bien:

#!/bin/sh
open -n /Custom\ Applications/MacVim.app

Como ha señalado correctamente @fd0, debes nombrar el script <script>.tool o <script>.command para que se ejecute desde Finder (donde <script> es un nombre significativo para el script).