Una forma alternativa de controlar el volumen es a través del terminal. Por ejemplo:
sudo osascript -e "set Volume 3.5"
Esto ajustará el volumen al 50% (la escala es de 0 a 7 utilizando el terminal).
Puedes usar números enteros o decimales. Un número más alto o más bajo hará que el volumen aumente o disminuya en intensidad (de nuevo, de 0 a 7).
Esto pondrá tu volumen bastante bajo:
sudo osascript -e "set Volume 0.1"
Esto pondrá el volumen en un ajuste aún más bajo:
sudo osascript -e "set Volume 0.01"
Como mencionó @timothymh, para controlar incrementos de 1/4 (0.25) sin usar el terminal, puedes mantener presionadas las teclas Shift + Option mientras usas las teclas F11 o F12 para ajustar el volumen en incrementos de 1/4 (0.25).
Usar el teclado solo te dará 64 ajustes de control de volumen 16*4 = 64
Usando el terminal puedes lograr 700 opciones para controlar el volumen 7*100 = 700