Du solltest dir einen 4,1 oder 5,1 mit einem Board für 2CPUs zulegen. Damit hast du dann eine Maschine, die sich in jede Richtung voll aufrüsten lässt. Mit ein wenig Glück kommst du günstig an einen 4,1er mit 2CPUs ran. Den 4,1 kann man per Software zum 5,1 machen, da er bis auf die Prozessoren absolut baugleich ist. Da der gleiche Prozessorsockel verwendet wird, kannst du dann auch alle eigentlich für den 5,1 vorgesehenen Prozessoren im 4,1 verbauen. Aktuell geht das hin bis 3,46MHZ (diese Prozessoren sind aber immer nich sehr teuer).
Ich habe einen Mac Pro 5,1 mit 2x2,66 CPU (12 Kerne, 24 Threads), der, wie ich finde, ein guter Kompromiss zwischen Leistung und Geldbeutel ist. Auf der ewigen Mac-Leistungsskala liegt er auch 2016 immer noch auf Platz 5 (natürlich nur im Multi-Core Bereich). Gebrauchte Modelle dieses Typs bekommst du ab 1800€. Mehr als 2000€ würde ich nicht zahlen, es sei denn, es ist bereits eine moderne Grafikkarte, eine M.2 SSD oder mehr als 32GB Ram verbaut. Der 4,1 ist gebraucht in der Regel deutlich günstiger (schon ab 1.200 €), aber dafür hast du auch schwächere CPUs und meist auch eine schwächere Grafikkarte.
Apropos Grafikkarte und SSD: Damit sich die Invenstition lohnt, solltest du von vornherein Ausgaben für einen Sata 3 Controller plus Ssd bzw. M.2 Karte mit passendem M.2 Speicher mit einkalkulieren. Sonst hast du da letztlich einen Rechner für irgendwas um die 2000 Euro stehen, der bei GPU-lastigem Zeugs und auch beim Laden / Speichern / Booten (bedingt durch Sata 2) eine in Relation zu modernen Macs schlechte Performance hat...
Beim Kauf beachten solltest du auch, das dir nicht ein 4,1 als 5,1 angedreht wird. Falls du dir nicht sicher bist, einfach die Seriennummer bei
http://appleserialnumberinfo.com oder auch über dein Apple-Supportprofil eingeben und den Modelltyp checken.