En general, las aplicaciones de OS X pueden ejecutarse desde cualquier lugar. Dependiendo de la distribución R que instales, puede funcionar perfectamente desde un paquete de aplicaciones o simplemente tendrás que ajustar tu variable $PATH para colocar los archivos ejecutables donde puedan ser encontrados.
Probablemente tienes un error de instalación más específico que está causando tus problemas. Quizás listar la versión exacta de R y dónde la obtuviste / qué pasos estás siguiendo nos permitiría ayudarte mejor. (Lo ideal sería que enumeraras el sistema operativo de Mac y el mensaje de error exacto o lo que estás viendo que te hace pensar que la instalación falló).