Mejor versión de OS X para un iMac de 2008?

Estoy de la opinión de que debes mantener tu sistema operativo actualizado a menos que tengas una razón ESPECÍFICA para quedarte en una versión anterior. Por ejemplo, software incompatible que DEBES utilizar o una incompatibilidad notada con un servicio del que no puedes prescindir (por ejemplo, algunas personas siguen teniendo problemas de compatibilidad con MS Exchange en mail.app en Mavericks).

Por lo tanto, si tu ordenador tiene suficiente RAM (más RAM si es posible) y un SSD rápido, yo elegiría la instalación de Mavericks... en mi humilde opinión.

Tengo el mismo iMac que tú.

Creo que Snow Leopard es el sistema más rápido que puedes instalar en tu iMac aunque ya no es compatible con Apple.

Hice la actualización a 10.9 y sentí el sistema más lento, pero lo hice porque algunos softwares requerían la actualización para funcionar.

Cuando salió Yosemite, decidí probarlo. Hice una instalación limpia y al principio todo parecía normal. Pero sentí el sistema MUY lento en las tareas diarias. Así que decidí volver a Mavericks.

Tengo un iMac 8,1 Core 2 Duo del 2008 ejecutando OS X 10.10.4 Yosemite. En realidad, Yosemite consume menos espacio en el disco duro y parece funcionar más rápido que versiones anteriores de OS X.

Mi recomendación siempre es actualizar al último sistema operativo.

También cabe destacar que hace unos dos años reemplacé la RAM original de 1+1GB... ahora tengo (2+4) 6 GB 800 MHz DDR2 SDRAM. Funciona maravillosamente.

Cualquier cosa por encima de 10.10 tiene tanto E/S de disco que podría freír el disco duro antiguo (fuente: Apple Genius)

Tus instintos son correctos, evita actualizar a Yosemite o a cualquier otro SO posterior. Los efectos de transparencia que Apple introdujo en su cambio de imagen gráfica pueden ser exigentes para máquinas más antiguas, y he experimentado directamente cómo muchas computadoras se vuelven significativamente más lentas como resultado.

Snow Leopard probablemente se sentirá más rápido en tu máquina. Sin embargo, si necesitas algo un poco más reciente, macOS X 10.9 Mavericks es un buen compromiso de SO para quedarte. Debería sentirse casi tan rápido como Snow Leopard, y dado que ya estás en Lion, no tendrás que lidiar con la molestia de degradar (lo cual requiere una instalación limpia).