Hay una aplicación, o la forma para recibir una notificación si alguien comienza a escribir un mensaje de texto?

No hay ninguna app para eso. En iOS no puede ser nunca uno, porque no hay acceso a la API para que, pero para el macOS de escritorio de la aplicación mensajes, uno podría realizarse a través de hack-ish de técnicas como la inyección de código.