La memoria RAM PC3-10600 funciona a una velocidad de reloj de 1333Mhz. La antigua PC3-8500 funciona a una velocidad de 1066Mhz. Mientras no haya otras diferencias físicas o de voltaje entre los dos tipos de memoria (y no debería haberlas en tu caso, ya que ambas son DDR3 SO-DIMMS), tu sistema debería aceptarlas.
Ten en cuenta que el bus de memoria del sistema se ajustará automáticamente a la velocidad nominal del módulo de memoria más lento instalado en él. Así, en lugar de hacer funcionar la memoria a 1333Mhz, bajará a 1066Mhz y perderás ancho de banda.
Si lo desea, puede consultar esto Entrada de Wikipedia para empezar a calcular exactamente cuánto. En cuanto al rendimiento en el mundo real, realmente depende de lo que estés haciendo. Aumentar la cantidad de memoria disponible perdiendo algo de ancho de banda puede ser una buena idea si dejas todo abierto todo el tiempo.
Pero si tienes aplicaciones específicas que requieren una gran cantidad de E/S en memoria, como una gran base de datos por ejemplo, la velocidad puede ser más importante. Sin embargo, para el usuario medio de Mac, yo diría que es preferible el volumen.