Esto no es posible utilizando el "Target Display Mode" de Apple en el iMac, desde un Mac mini M1. Solo los Mac introducidos en 2019 o antes (es decir, los Mac basados en Intel) pueden conectarse al Target Display Mode de un iMac antiguo (los iMac más nuevos no tienen Target Display Mode), según el artículo de soporte de Apple https://support.apple.com/en-us/HT204592 que establece:
El iMac utilizado como pantalla debe tener instalado MacOS High Sierra o anterior. El otro Mac al que lo conectes debe haber sido presentado en 2019 o antes y tener instalado macOS Catalina o anterior.
Es posible modificar algunos modelos antiguos de iMac, convirtiéndolos de ordenador a monitor, desconectando sus placas de circuito principales y sustituyéndolas por placas de controlador de pantalla de terceros. Las placas se venden actualmente por 200-300 dólares. Puedes buscar en eBay, AliExpress, etc. placas de controladores universales de HD de 5K. Este es un procedimiento muy complicado, no es sólo comprar un cable.