du kannst deiner RX580 aber die hardwarebeschleunigung
für H264 (decode/encode) und H265 /decode) beibringen.
damit solltest du keine probleme mehr damit haben
und es laufen die filme in realtime auf der käsereibe
mittels kext:
https://forums.macrumors.com/threads/activate-amd-hardware-acceleration.2180095/
und zwar ab hier:
1) Keep SIP disabled
2) ...
und wenn man sich ein wenig besser im system auskennt (bessere methode) :
https://forums.macrumors.com/threads/activate-amd-hardware-acceleration.2180095/page-8#post-27438094
die open core methode (bei der zwar auch H265 encode möglich ist)
würd ich absolut nicht empfehlen, da du hier dein backplane schneller
schrottest als du schauen kannst!