Usando la terminal y el comando abrir, estoy tratando de abrir una nueva instancia del navegador seguida de 2 pestañas

Establezca un alias para el ejecutable dentro de Firefox.app.

 alias firefox_cli=/Applications/Firefox.app/Contents/MacOS/firefox
firefox_cli --new-tab "site1"
firefox_cli --new-tab "site2"

Para obtener más ayuda, ejecute

 firefox_cli --help

Para eliminar el alias,

 unalias firefox_cli

Me lo imaginé. Espero que esto sea útil

 open -na "Firefox" --args --new-window "https://website1.com";
sleep 3
open "https://website2.com";

El sueño permite una pausa entre los 2 comandos y parece funcionar. Agregue una solución mejor si conoce una.