Esto se debe a la forma de programar la mesa de trabajo en Mac OS X.
Los editores de texto esperan que la mesa de trabajo contenga, bueno, datos de texto. Sin embargo, hay varios tipos de texto: hay texto plano, hay texto formateado (RTF), hay texto formateado con documentos incrustados (RTFD), hay texto con formato HTML, y un montón de otros.
Cuando se copia algo, la aplicación indica a la mesa de trabajo cómo se pueden representar estos datos. Normalmente hay varias representaciones adecuadas: por ejemplo, al copiar tu pregunta se exportan datos en la mesa de trabajo que pueden representarse como un archivo web, datos RTF y texto plano en tres codificaciones diferentes. Son muchos los tipos que probablemente admitan las aplicaciones.
Sin embargo, cuando se copia un correo desde Mail, sólo se exporta como dos tipos de datos: texto plano UTF-8 y un documento RTFD. Cocoa intenta pegar como un documento RTFD porque le gustan más, pero las aplicaciones dicen "no no, no puedo hacer eso"; normalmente soportan obtener texto de RTF, pero no de RTFD ya que el RTFD suele tener recursos incrustados como imágenes, y terminas pegando nada porque las aplicaciones no se molestan en buscar los datos de texto plano.
TextEdit, por su parte, es capaz de editar documentos RTFD, por lo que no tiene problemas para pegar los datos.