Necesitas algún tipo de compresor
Apple proporciona algunos por defecto como plugins de la Unidad de Audio - pero entonces necesitas algo para ejecutarlos. El más sencillo que conozco es el de Rogue Amoeba Fuente de sonido [Rogue Amoeba realmente hace algunas herramientas de manipulación de sonido muy sólidas, esta es su más barata/simple].
A continuación, puede "interceptar" la salida a nivel de sistema o de aplicación e insertar el compresor para controlar la salida.
Un compresor multibanda no es la cosa más fácil de hacer malabares con los ajustes, si no estás acostumbrado a la ingeniería de audio [y el de Apple no tiene la mejor representación gráfica para ver lo que estás haciendo]. Si te cuesta, hay un compresor más sencillo de una sola banda llamado AUDynamicsProcessor.
SoundSource puede ejecutar cualquier plugin de Audio Unit, por lo que podrías encontrar otro compresor más adecuado a tus necesidades específicas. Hay muchos disponibles, gratuitos y de pago. Un tipo alternativo de compresor se conoce como Limitador [a veces llamado limitador de pared de ladrillo], que en efecto mantiene una salida máxima absoluta y no deja que nada sea más fuerte. Pueden ser muy eficaces, pero también muy agresivos en su efecto sobre el sonido.
La aplicación SoundSource se encuentra en la barra de menús, por lo que puedes activarla con un par de clics.
Personalmente, mi opción multibanda es el Waves LinMB [Compresor multibanda de fase lineal] que te permite ver y oír lo que estás haciendo, pero eso supone otros 30 dólares además de SoundSource.