Abre una ventana terminal: ⌘space y escribir Terminal. Presiona enter cuando esté resaltado. Cuando llegue al indicador de terminal, escriba el siguiente comando:
defaults write com.apple.Safari WebKitOmitPDFSupport -bool YES
No obtendrás una respuesta en la línea de comandos, pero una vez que reinicies Safari ya no los abrirá en el navegador.
Para dar un paso más mientras estás allí, puedes evitar que se abran una vez que se descarguen con este:
defaults write com.apple.Safari AutoOpenSafeDownloads -bool NO
Este último comando logra lo que la otra respuesta sugiere.