He encontrado dos maneras. Ambas son un poco feas...
...pero en primer lugar, es importante tener en cuenta que hay dos estilos de interfaz para la acción de búsqueda: lo que describes es un modo que se utiliza cuando la ventana es más bien estrecha: una ventana emergente en el centro de la ventana pidiendo la cadena de búsqueda.
Hay un modo diferente en el que la entrada de búsqueda está en la barra de herramientas. Ese modo se utiliza siempre que haya espacio suficiente en la barra de herramientas.
Así que eso nos lleva al primer método: hacer que la ventana sea lo suficientemente amplia como para acomodar el segundo modo. Porque eso hace que ESC funcionan como se esperaba, y como implica el comentario incrédulo de Marc.
Aquí hay una segunda forma de hacerlo, en caso de que esté trabajando en una pantalla con relación de aspecto 4:24 en modo vertical, o simplemente sienta que la vista previa no merece esos píxeles: después de entrar en el modo de búsqueda, pulse COMMAND + E . Esto cambiará de alguna manera al modo de búsqueda de la barra de herramientas, y puedes pulsar ESC de allí.
Todo probado en Monterey Beta.