¿Uso de la memoria del correo?

Primero trataría de aislar el problema. ¿Está Mail.app tomando la misma cantidad de memoria en una nueva cuenta de usuario, estoy hablando de una cuenta de usuario del sistema operativo (Crear un nuevo usuario de prueba en las preferencias del sistema -> Usuarios y Grupos -> +)

En caso de que lo haga yo miraría en "/Library/Application Support/Apple/Mail" y lo compararía con un sistema bueno conocido (que sólo debería contener Stationery) sospechando que podrías tener algunos plugins que hacen que Mail.app use más memoria de lo normal (yo tengo 21k correos en mis bandejas de entrada y sólo usa 230mb).

Si solo tu usuario excitante muestra este comportamiento, empieza por mover la carpeta ~/Library/Mail a como ~/Library/Mail.old y mira si deja de usar la ram. De lo contrario, yo empezaría a buscar plugins u otras aplicaciones que puedan interactuar con el correo (puede haber algunos plugins de internet)