La conversión de las letras en glifos la realiza el teclado, no la fuente. Así que no es necesario crear una fuente, a menos que quieras generar glifos que no estén en Unicode. Si quieres escribir dos letras y que se conviertan en un glifo ya existente, hay muchas maneras, incluyendo:
- utilice el teclado estadounidense y realice las entradas en la cuadrícula de reemplazo de system prefs/keyboard/text.
- crear un diseño de teclado personalizado con las aplicaciones Ukelele o Karabiner.
- crear un método de entrada personalizado como se menciona en OS X: Crea y utiliza tu propia fuente de entrada
Si quieres duplicar el mecanismo del teclado japonés, tendrás que examinar el funcionamiento de system/library/input methods/JapaneseIM.app
Si quieres crear una fuente con glifos personalizados, hay varias aplicaciones para ello como Fontlab, Fontforge, Robofont, Type y Glyphs. Si puedes hacer que la IM japonesa utilice una fuente personalizada para generar tus glifos personalizados, tendrías que probarlo -- no he visto que nadie lo haya hecho antes.