Ich muss tatsächlich einen dummen Fehler eingestehen:
Zwar hab ich mein Beta-Profil für das iPhone gelöscht, aber ich habe vergessen das Beta-Profil für die Watch auch zu löschen. Das hab ich nämlich irgendwann mal geladen, ohne es je zu nutzen, da es für die Watch ja keine public betas gibt.
Seit ich das gelöscht hab, konnte ich watchOS 5 laden.