Aquí puedes leer sobre gente que intenta poner GPUs MXM que no son de Apple dentro de los iMacs:
http://forums.macrumors.com/threads/2011-imac-graphics-card-upgrade.1596614/
Por supuesto, hay problemas debido a las incompatibilidades de la EFI (espero que alguien las resuelva en el futuro), pero por ejemplo una GeForce 780m parece funcionar en algunos casos. Me pregunto si alguien ha intentado utilizar una potente GeForce 980m para esto.