No existe una función similar de exclusión de dominios canarios en toda la red para iOS y MacOS en general. Sin embargo, si usas, por ejemplo, Firefox en MacOS, puedes usar esa función para desactivarla para ese navegador en particular, a menos que el usuario opte por DoH/DoT, en cuyo caso la función no hace nada.
Normalmente puedes bloquear DoT en tu router OpenWrt bloqueando el puerto saliente 853. Normalmente puedes bloquear DoH bloqueando el puerto 443, sin embargo eso también significaría bloquear la mayoría de los sitios web.
Ten en cuenta que si bloqueas el puerto 853 en tu router, iOS dará al usuario un aviso de que el DNS cifrado está siendo bloqueado por la red.
Si hay un servidor DNS específico (o una lista más pequeña de servidores) que no quieres que se utilice en tu red, puedes bloquear todo el tráfico hacia esa dirección IP en tu router OpenWrt. Se aplican advertencias similares.
Por último, si tienes el control de los dispositivos Apple, puedes utilizar MDM para cambiar su configuración DNS. En particular, podrías, por ejemplo, habilitar DoH y apuntarlo a tu propio servidor - o apuntarlo a un servidor que no existe - deshabilitándolo efectivamente.