Homebrew necesita la contraseña de tu Mac porque la instalación de la mayoría de SW (incluyendo homebrew) requiere el permiso de un usuario administrador, que se da al introducir tu contraseña. Sólo tienes que introducir la misma contraseña que utilizas cuando inicias sesión en tu Mac, y homebrew debería instalarse. Entonces, puedes escribir brew install Macaulay2/tap/M2
para instalarlo.
ACTUALIZACIÓN: Según https://faculty.math.illinois.edu/Macaulay2/Downloads/MacOSX/index.html también puedes descargar el SW en una imagen de disco y simplemente arrastrar la carpeta Macaulay al acceso directo de Aplicaciones en la imagen de disco, así:
A continuación, siga las instrucciones de ese archivo Léame para completar los pasos de configuración necesarios para utilizar este SW. Esto le permitirá utilizar este SW en su Mac sin necesidad de homebrew.