Die Tastenkombi für den Hardwaretest ist D oder CMD+D.
Hast Du schon mal den Verbose Mode aktiviert und geschaut, ob Du darüber an Infos kommst? Oder in der Konsole die Logfiles angeschaut, insbesondere das Systemlog? (Habe jetzt keine Lust, nachzulesen, sorry.)
Wenn Du den Keylogger ganz sicher selbst installiert hast, okay, dann kann man die Situation gelassen(er) einschätzen. Sonst wäre das Hauptproblem ein physikalischer Zugriff auf Deinen Rechner gewesen. Denn so ein Keylogger muss installiert werden und niemand kann sagen, ob und was noch installiert wurde. Das könnte alles mögliche sein, deshalb sind die genannten Vorsichtsmaßnahmen sinnvoll.
Softwares wie z.B. Anti-Malware oder Bit Defender findet nur, was bekannt ist. Das ist mit Sicherheit nicht alles, was es gibt. Trotzdem fühlt sich der Anwender sicher, wenn nichts gefunden wird. Das kann trügen, muss aber nicht. Wie man damit umgeht, bleibt jedem selbst überlassen, man sollte sich dessen nur bewusst sein.
Ich würde den Rechner eine Zeit lang nur mit dem System (clean) laufen lassen, falls der AHT nichts findet. (NVRAM und SCM sollte zurück gesetzt sein.) Bleiben die Neustarts, würde ich das Mac OS X wechseln. Treten sie dann immer noch auf, müsste es die Hardware sein, falls nicht, ist der Grund in Deinem Backup zu finden.