MacOS High Sierra no intenta probar otros servidores DNS

Primero: nslookup no utiliza el sistema de resolución de DNS y no se comporta de la misma manera que el sistema de resolución. Tampoco lo hacen dig o host, por lo que ninguna de estas herramientas es útil para comprobar cómo resuelve nombres macOS. Si desea utilizar el resolutor del sistema, use dscacheutil -q host -a name google.com, pero tenga en cuenta que utiliza todo el sistema de resolución: busca en la caché local, /etc/hosts, mDNS (para nombres .local) y luego DNS. Ah, y la página del manual de dscacheutil afirma que puede vaciar la caché de DNS, pero no funciona; en su lugar, use sudo killall mDNSResponder en su lugar.

Segundo: el resolutor del sistema no hace un buen (o ni siquiera adecuado) trabajo al cambiar entre servidores DNS. Si lista varios servidores, enviará consultas a todos ellos de manera aleatoria. Si no recibe respuesta, eventualmente se agotará el tiempo y probará con el otro. Si recibe una respuesta de "eso no existe", asumirá que es correcto y no intentará con otro servidor. Por lo tanto, realmente necesita un solo servidor que pueda responder a todas las consultas, tanto internas como externas.

Ok, hay una posible solución alternativa: puede apuntar su sistema a un servidor DNS público, luego crear /etc/resolver/ y colocar archivos en él para redirigir consultas para ciertos dominios a su servidor interno. Siempre que sepa qué dominios redirigir, claro está. Vea Apple.SE: "Do /etc/resolver/ files work in Mountain Lion for DNS resolution?".