Bueno, eso sólo ocurre si intentas borrar la App desde el Finder, lo cual no es la mejor manera en mi opinión.
Si las has descargado de la App Store puedes ir al Launchpad y mantener pulsado, algo así como borrar aplicaciones del iPhone, y las aplicaciones empezarán a temblar y aparecerá un icono en forma de cruz en la parte superior izquierda de las aplicaciones que se pueden eliminar de esa manera.
Personalmente uso AppCleaner ya que este software también realiza una búsqueda de otros lugares donde la aplicación a eliminar puede haber almacenado datos y te da una vista previa para que revises y confirmes la eliminación.
Hago algunos desarrollos y cuando quiero emular el proceso/experiencia de la primera instalación uso AppCleaner para eliminar cualquier dato del perfil o del historial almacenado fuera del App Bundle.
Por último, puedes eliminar aplicaciones desde Terminal App pero no voy a dar detalles ya que no es recomendable aunque sepas lo que estás haciendo :p.